请问一个页面里面有两个或多个加载按钮,是否能用记号索引来加载并抓取呢?试着做了两个记号索引,第一个加载按钮自动点击加载没问题,可是第二个按钮不自动点击加载更多,但是DS一直不停的循环抓数据。
举报 使用道具
| 回复

共 4 个关于本帖的回复 最后回复于 2016-9-9 09:43

沙发
HJLing 版主 发表于 2016-9-9 09:21:28 | 只看该作者
只需要做一个记号线索就可以了 就像普通的翻页那样 程序看到“加载更多” 就会去点击了
举报 使用道具
板凳
Fuller 管理员 发表于 2016-9-9 09:22:18 | 只看该作者
如果有多个的话,要用连续动作,爬虫路线上的连贯抓取只能顺着一条线爬,除非做分级抓取。但是,如果没有独立网址,做不了分级抓取,那么就得用连续动作
举报 使用道具
地板
jyy1082 初级会员 发表于 2016-9-9 09:41:42 | 只看该作者
Fuller 发表于 2016-9-9 09:22
如果有多个的话,要用连续动作,爬虫路线上的连贯抓取只能顺着一条线爬,除非做分级抓取。但是,如果没有独 ...

如果做连续动作,要设置重复多少次呢?不知道要点几次加载按钮
举报 使用道具
5#
Fuller 管理员 发表于 2016-9-9 09:43:34 | 只看该作者
jyy1082 发表于 2016-9-9 09:41
如果做连续动作,要设置重复多少次呢?不知道要点几次加载按钮

用xpath,xpath可以得到一个节点集合,这个集合多大它就重复多少次
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-20 08:45