GooSeeker产品资源教程视频教程使用交流资讯
开启辅助访问 切换风格

集搜客GooSeeker网络爬虫

论坛 › 搜客社区 › 使用交流
1 6589

翻页翻到最后一定会有三页重复的吗

小蜜蜂a 于 2017-10-13 11:01 发表 [复制链接] [只看楼主] [打印] [上一主题] [下一主题]
收藏 跳转到指定楼层
翻页翻到最后一定会有三页重复的吗
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2017-10-13 11:07
沙发
wangyong 版主 发表于 2017-10-13 11:07:05 | 只看该作者
本帖最后由 wangyong 于 2017-10-13 15:37 编辑

有些网页在翻到最后一页时“下一页”按钮还存在，而且可以点击，但是点击后的内容不发生变化。

这种网页如果不勾选重复内容中断就会一直在最后一页死循环。

勾上重复内容中断后，在进行翻页采集时如果出现了连续三次都采集下了相同的数据爬虫就会自动中断采集。
设置重复内容中断的方法：《单搜和爬虫群调度设置重复内容判断的方法》
举报 使用道具
回复 支持 反对
返回列表
B Color Image Link Quote Code Smilies
高级模式
您需要登录后才可以回帖 登录 | 立即注册

推荐板块

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门话题

热门用户

旧版
网站
社区
支持
常见问题
视频教程
速查手册
指导书
关于
公司简介
联系方式
友情链接
关注
新浪微博

GMT+8, 2024-5-8 17:39