V8.0.2版本的DS打数机菜单多了一项:配置-》延迟抓取,设置了这个数字以后是不是会拖慢爬虫的速度?
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-10-8 17:53

沙发
Fuller 管理员 发表于 2016-10-8 17:53:50 | 只看该作者
延迟抓取时间本来就有的,只是在DS打数机上不能设置,原先版本是这样安排的:
1,DS打数机上不能设置,缺省是5秒钟
2,如果需要调整,必须运行爬虫群模式,在会员中心为抓取规则设置调度参数,其中就有“延迟抓取时间”

从V8.0.2版本开始,在DS打数机上增加了菜单,让手工启动的抓取也能设置这个参数。

延迟抓取主要用在这种网页上:


直观观察,会看到有个加载图标,要等待比较长时间的话,如果抓早了,就会抓到旧数据。所以,要延迟一下。

是否会影响爬虫的速度呢?DS打数机有一套判断机制,根据需要才用这个参数,不出现这种局部刷新的情况就不会使用。

如果发现有些网页不需要他却感觉抓取速度变慢了,请跟帖告诉我们,还可以在菜单上把这个参数设置为0,就不延迟了。

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 360或火绒等杀毒软件导致GooSeeker爬虫软件
  • 话题分析(NMF模型和LDA模型)软件的安装和
  • 运行Apple无法验证的程序的方法
  • 文本聚类分析软件的安装和使用方法
  • 利用AI阅读和分析文本:扣子COZE记录用户反

热门用户

GMT+8, 2025-4-24 15:44