内容如题。是不是只能调整自建规则的采集速度。另外数据DIY模式,我启动了10个爬虫窗口,但只有2个工作。是不是也只有自建规则能调整?
举报 使用道具
| 回复

共 3 个关于本帖的回复 最后回复于 2017-7-30 16:40

沙发
gz51837844 管理员 发表于 2017-7-30 12:40:41 | 只看该作者
自己原创的规则,或者是下载的规则,可以自由调整采集速度和并行爬虫数
数据DIY和微博工具的是设置好的一套公共参数,综合考虑了速度,应对反扒等因素,是供所有人使用的,使用者不能自己做调整
举报 使用道具
板凳
mamaise 初级会员 发表于 2017-7-30 13:08:11 | 只看该作者
gz51837844 发表于 2017-7-30 12:40
自己原创的规则,或者是下载的规则,可以自由调整采集速度和并行爬虫数
数据DIY和微博工具的是设置好的一套 ...

所以说DIY的最大并行爬虫数只有2吗?
举报 使用道具
地板
gz51837844 管理员 发表于 2017-7-30 16:40:51 | 只看该作者
mamaise 发表于 2017-7-30 13:08
所以说DIY的最大并行爬虫数只有2吗?

不同网站设置不一样,一般是2到4个
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 利用AI阅读和分析文本:扣子COZE记录用户反
  • 在网页片段内直观标注——以B站评论采集为
  • 利用AI阅读和分析文本:使用COZE建设游记文
  • 使用AI工具Kimi生成python代码为文本分析结
  • 苹果mac电脑安装集搜客网络爬虫软件失败的

热门用户

GMT+8, 2024-11-22 17:23