看着DS打数机一直在爬数据,已经爬到我想爬的最后一页了,怎么停止?
举报 使用道具
| 回复

共 3 个关于本帖的回复 最后回复于 2017-2-20 22:17

沙发
Fuller 管理员 发表于 2016-8-4 19:39:30 | 只看该作者
是翻页吗?

正常情况下,爬到最后一页就自动停止了。如果没有停止,说明到最后一页,“下一页”还能点,这样就采集到相同的内容。在DS打数机中有个根据重复内容中断的选项,菜单 高级-》终点标志-》重复内容,设置后,就能停止
举报 使用道具
板凳
1866905838 初级会员 发表于 2017-2-20 22:10:03 | 只看该作者
我在抓取“http://www.haoyisheng.com/website/circle/cirIndex?circleId=212”(点击加载更多)方式,我发现打印机一直在运行,不知道为什么。
举报 使用道具
地板
scraper 论坛元老 发表于 2017-2-20 22:17:14 | 只看该作者
DS打数机的菜单项: 高级->终点标志->重复内容
你把这个选项勾选上, 避免有些页面一直循环采相同的内容.
如果你需要技术帮你分析, 可以把你的主题名写下来
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-5-7 03:55