翻页抓取,如果要限制翻页页数,哪里可以设置啊
举报 使用道具
| 回复

共 3 个关于本帖的回复 最后回复于 2020-9-10 11:58

Fuller 管理员 发表于 2020-9-10 11:24:35 | 显示全部楼层
要在爬虫群模式下设置调度参数才能限制,而在单搜或者集搜这种手工启动的爬取,眼看着页数够了,强制关闭爬虫窗口就行
举报 使用道具
数据分析小白edu 初级会员 发表于 2020-9-10 11:33:48 | 显示全部楼层
QQ图片20200910113303.png
在任务管理中,对应任务的调度设置   可以限制翻页
举报 使用道具
Fuller 管理员 发表于 2020-9-10 11:58:07 | 显示全部楼层
数据分析小白edu 发表于 2020-9-10 11:33
在任务管理中,对应任务的调度设置   可以限制翻页

对,这就是给爬虫群模式设置调度参数,这样设置以后,会把这个爬取任务自动分配给空闲的爬虫群电脑。配置爬虫群的教程:https://www.gooseeker.com/doc/article-200-1.html
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-3-29 05:49