主题:edd2
问题,用连续点击翻页,但不成功,请问问题出在哪?
举报 使用道具
| 回复

共 3 个关于本帖的回复 最后回复于 2017-6-14 20:59

沙发
shengchengx 金牌会员 发表于 2017-6-14 17:46:34 | 只看该作者
翻页直接用爬虫路线不就好了么?我刚测试用爬虫路线就可以做呢
举报 使用道具
板凳
ovna123 金牌会员 发表于 2017-6-14 18:17:43 | 只看该作者
对,想复杂了。但还是想问问网页地址有变化用连续点击是不是就不行?
举报 使用道具
地板
maomao 论坛元老 发表于 2017-6-14 20:59:20 | 只看该作者
ovna123 发表于 2017-6-14 18:17
对,想复杂了。但还是想问问网页地址有变化用连续点击是不是就不行?

不是不行,用层级采集和爬虫路线能实现的,都可以用连续动作,但是连续动作是一口气从头做到底的,这样就无法分配给其他爬虫,也就是无法并行采集,效率不够。

如果有独立网址,假设是下级内容,就用层级采集,如果是翻页,就用爬虫路线上的翻页,翻页的时候,如果选择连贯抓取,那么也是一口气翻到底,如果不是连贯抓取,那么每个分页都是一个独立线索
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-27 01:45