本帖最后由 洪城县令 于 2019-10-25 18:30 编辑

网页点击翻页按钮翻了10页,直接到了11页 ,这种网页的翻页该如何去设置翻页采集全部数据呢?
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2019-10-25 14:25

沙发
czj19961023 实习版主 发表于 2019-10-25 14:25:30 | 只看该作者
本帖最后由 czj19961023 于 2019-10-25 18:32 编辑

1.主题一:只翻页抓取1-10,用相对线索做翻页规则
  主题二:做一个点击动作,点击翻页按钮,目标主题是主题三,主题三做翻页抓取11-20,以及21-30等等
   主题一独立成一套,主题二+主题三组成一套,这两套分别运行就可采到全部数据;
2.也可以单独看每页可不可以构造网址,这样就可以构造出所有页的网址,不用翻页了

举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-26 17:37