V8.0.2版本的DS打数机菜单多了一项:配置-》延迟抓取,设置了这个数字以后是不是会拖慢爬虫的速度?
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-10-8 17:53

沙发
Fuller 管理员 发表于 2016-10-8 17:53:50 | 只看该作者
延迟抓取时间本来就有的,只是在DS打数机上不能设置,原先版本是这样安排的:
1,DS打数机上不能设置,缺省是5秒钟
2,如果需要调整,必须运行爬虫群模式,在会员中心为抓取规则设置调度参数,其中就有“延迟抓取时间”

从V8.0.2版本开始,在DS打数机上增加了菜单,让手工启动的抓取也能设置这个参数。

延迟抓取主要用在这种网页上:


直观观察,会看到有个加载图标,要等待比较长时间的话,如果抓早了,就会抓到旧数据。所以,要延迟一下。

是否会影响爬虫的速度呢?DS打数机有一套判断机制,根据需要才用这个参数,不出现这种局部刷新的情况就不会使用。

如果发现有些网页不需要他却感觉抓取速度变慢了,请跟帖告诉我们,还可以在菜单上把这个参数设置为0,就不延迟了。
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-20 19:57