采集的网页需要点击一下button按钮,才能进入到下级网页,button按钮是onclick事件,没找到独立网址,现在尝试用连续动作实现点击,然后采集下级页面的数据,问题是我有多个button要点击,点完第一个button并且采完它的下级网页,要怎样让爬虫继续点击第二个button,然后采集下个页面的数据?
举报 使用道具
| 回复

共 2 个关于本帖的回复 最后回复于 2016-11-3 14:24

沙发
ym 版主 发表于 2016-11-3 14:19:10 | 只看该作者
本帖最后由 ym 于 2016-11-3 14:23 编辑

如果点击button按钮,弹出新的页签,就需要用到飞掠模式功能,操作可以参考《飞掠模式:追踪弹窗采数据》。简单概括就是,第一级规则的点击动作的xpath要定位到每个button按钮,这样爬虫采集时就会点完一个按钮,采完它的下级网页,再点击下一个按钮,再采集下个页面,是自动循环的。
举报 使用道具
板凳
花生论坛 初级会员 发表于 2016-11-3 14:24:21 | 只看该作者
哦哦,我看看
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 利用AI阅读和分析文本:扣子COZE记录用户反
  • 在网页片段内直观标注——以B站评论采集为
  • 利用AI阅读和分析文本:使用COZE建设游记文
  • 使用AI工具Kimi生成python代码为文本分析结
  • 苹果mac电脑安装集搜客网络爬虫软件失败的

热门用户

GMT+8, 2024-11-25 04:30