请问在层级抓取中对层级页面做连续动作是做3个规则吗?第一级抓链接,第二级抓关键字,第三级抓取信息。这样做完打数机是一个一个运行的吗?
举报 使用道具
| 回复

共 2 个关于本帖的回复 最后回复于 2016-8-30 10:56

何波波 金牌会员 发表于 2016-8-30 10:06:46 | 显示全部楼层
对层级抓取中的层级页面做连续动作应该第一级链接,第二级连续动作,第三级抓取信息。连续动作的规则在打数机上抓数据时,只需运行第二级会自动调用第三级。因为对打数机而言,是先执行动作,后采集数据。
举报 使用道具
Fuller 管理员 发表于 2016-8-30 10:56:53 | 显示全部楼层
集搜客网页采集软件是区分“层级抓取”和“连续动作”的。

1)层级抓取一般是指: 每一层是有独立网址的,上一层把网址抓下来,为下一层生成爬虫线索,这种关系很自由松散,不要求抓完上级立即抓下级,两级可以分别运行,可以分布在不同爬虫群中运行

2)连续动作是:点击、悬浮、双击、打码、输入、选择等等动作,做了以后网页内容会变化,或者弹出一个新的窗口(要用飞掠模式才能抓)。动作后的网页网址是不变的,没有独立网址,所以,要一口气把动作做完。

能用层级抓取的就不用连续动作,连续动作要一口气抓完,很容易遇到异常情况而中断。而且不能分布到爬虫群中高速并行抓取
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-3-29 05:36