请教下各位大侠,只要每一页的,页面中,有此原素,爬虫就会跳过下面的所有几行数据 ,直接翻页采集,不知哪儿设置出问题,盼指教,甚为感谢

20200609跳过翻页.png (74.79 KB, 下载次数: 867)

20200609跳过翻页.png
举报 使用道具
| 回复

共 16 个关于本帖的回复 最后回复于 2020-6-11 11:55

沙发
Fuller 管理员 发表于 2020-6-9 16:38:41 | 只看该作者
在这个网页上做了什么连续动作?比如,是点击吗?点击的xpath是怎么写的?
举报 使用道具
板凳
Fuller 管理员 发表于 2020-6-9 16:39:12 | 只看该作者
有这样的网页的时候,连续动作做了以后,有什么现象发生?
举报 使用道具
地板
goodhanbin 中级会员 发表于 2020-6-9 16:41:38 | 只看该作者
Fuller 发表于 2020-6-9 16:39
有这样的网页的时候,连续动作做了以后,有什么现象发生?

未做点击动作,未做任何设置 ,只是遇到此原素,下面所有的行数,直接跳过,跳至另外一页采集
举报 使用道具
5#
Fuller 管理员 发表于 2020-6-9 16:47:35 | 只看该作者
goodhanbin 发表于 2020-6-9 16:41
未做点击动作,未做任何设置 ,只是遇到此原素,下面所有的行数,直接跳过,跳至另外一页采集
...

在这个网页上只是采集数据,并不做连续动作?

如果只是采集数据,遇到这个样式,就无法采集下面的行了,这个只需要检查整理箱做的映射是否合适。把规则加载上来,把网页翻页到这样的网页,然后用菜单 规则-》刷新页面结构,在选择菜单 规则-》分析页面。

如果分析成功了,点击测试按钮,看看采集到的数据全不全。如果下面的行没有,要检查一下生成的规则与这个网页的匹配情况
举报 使用道具
6#
goodhanbin 中级会员 发表于 2020-6-9 16:58:53 | 只看该作者
Fuller 发表于 2020-6-9 16:47
在这个网页上只是采集数据,并不做连续动作?

如果只是采集数据,遇到这个样式,就无法采集下面的行了, ...

分析时没有问题,测试数据完整,详见附件动图

20200609后续分析.gif (1.48 MB, 下载次数: 848)

后续分析,测试数据 完整

后续分析,测试数据 完整
举报 使用道具
7#
goodhanbin 中级会员 发表于 2020-6-9 17:03:29 | 只看该作者
本帖最后由 goodhanbin 于 2020-6-9 17:05 编辑
Fuller 发表于 2020-6-9 16:47
在这个网页上只是采集数据,并不做连续动作?

如果只是采集数据,遇到这个样式,就无法采集下面的行了, ...


这是,采集数据完整 的操作动作



以下,是采集完成之后,数据图

20200609跳过翻页.png (113.38 KB, 下载次数: 855)

20200609跳过翻页.png

20200609跳过翻页导出数据.png (108.29 KB, 下载次数: 853)

20200609跳过翻页导出数据.png
举报 使用道具
8#
Fuller 管理员 发表于 2020-6-9 17:19:38 | 只看该作者
goodhanbin 发表于 2020-6-9 17:03
这是,采集数据完整 的操作动作

看样子是在这一页上不滚屏,就不会加载后面的内容。这个规则是不是连续动作以后出现的页面?连续动作以后,所有的自动滚屏动作都禁止了。要执行滚屏,得加上滚屏连续动作
举报 使用道具
9#
Fuller 管理员 发表于 2020-6-9 17:20:04 | 只看该作者
用滚屏连续动作会产生一些冗余数据,因为滚一次采集一次
举报 使用道具
10#
goodhanbin 中级会员 发表于 2020-6-9 17:21:10 | 只看该作者
Fuller 发表于 2020-6-9 17:19
看样子是在这一页上不滚屏,就不会加载后面的内容。这个规则是不是连续动作以后出现的页面?连续动作以后 ...

未作连续动作
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-26 13:03