请教下各位大侠,只要每一页的,页面中,有此原素,爬虫就会跳过下面的所有几行数据 ,直接翻页采集,不知哪儿设置出问题,盼指教,甚为感谢

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
| 回复

共 16 个关于本帖的回复 最后回复于 2020-6-11 11:55

沙发
Fuller 管理员 发表于 2020-6-9 16:38:41 | 只看该作者
在这个网页上做了什么连续动作?比如,是点击吗?点击的xpath是怎么写的?
举报 使用道具
板凳
Fuller 管理员 发表于 2020-6-9 16:39:12 | 只看该作者
有这样的网页的时候,连续动作做了以后,有什么现象发生?
举报 使用道具
地板
goodhanbin 中级会员 发表于 2020-6-9 16:41:38 | 只看该作者
Fuller 发表于 2020-6-9 16:39
有这样的网页的时候,连续动作做了以后,有什么现象发生?

未做点击动作,未做任何设置 ,只是遇到此原素,下面所有的行数,直接跳过,跳至另外一页采集
举报 使用道具
5#
Fuller 管理员 发表于 2020-6-9 16:47:35 | 只看该作者
goodhanbin 发表于 2020-6-9 16:41
未做点击动作,未做任何设置 ,只是遇到此原素,下面所有的行数,直接跳过,跳至另外一页采集
...

在这个网页上只是采集数据,并不做连续动作?

如果只是采集数据,遇到这个样式,就无法采集下面的行了,这个只需要检查整理箱做的映射是否合适。把规则加载上来,把网页翻页到这样的网页,然后用菜单 规则-》刷新页面结构,在选择菜单 规则-》分析页面。

如果分析成功了,点击测试按钮,看看采集到的数据全不全。如果下面的行没有,要检查一下生成的规则与这个网页的匹配情况
举报 使用道具
6#
goodhanbin 中级会员 发表于 2020-6-9 16:58:53 | 只看该作者
Fuller 发表于 2020-6-9 16:47
在这个网页上只是采集数据,并不做连续动作?

如果只是采集数据,遇到这个样式,就无法采集下面的行了, ...

分析时没有问题,测试数据完整,详见附件动图

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
7#
goodhanbin 中级会员 发表于 2020-6-9 17:03:29 | 只看该作者
本帖最后由 goodhanbin 于 2020-6-9 17:05 编辑
Fuller 发表于 2020-6-9 16:47
在这个网页上只是采集数据,并不做连续动作?

如果只是采集数据,遇到这个样式,就无法采集下面的行了, ...


这是,采集数据完整 的操作动作



以下,是采集完成之后,数据图

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
8#
Fuller 管理员 发表于 2020-6-9 17:19:38 | 只看该作者
goodhanbin 发表于 2020-6-9 17:03
这是,采集数据完整 的操作动作

看样子是在这一页上不滚屏,就不会加载后面的内容。这个规则是不是连续动作以后出现的页面?连续动作以后,所有的自动滚屏动作都禁止了。要执行滚屏,得加上滚屏连续动作
举报 使用道具
9#
Fuller 管理员 发表于 2020-6-9 17:20:04 | 只看该作者
用滚屏连续动作会产生一些冗余数据,因为滚一次采集一次
举报 使用道具
10#
goodhanbin 中级会员 发表于 2020-6-9 17:21:10 | 只看该作者
Fuller 发表于 2020-6-9 17:19
看样子是在这一页上不滚屏,就不会加载后面的内容。这个规则是不是连续动作以后出现的页面?连续动作以后 ...

未作连续动作
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 360或火绒等杀毒软件导致GooSeeker爬虫软件
  • 话题分析(NMF模型和LDA模型)软件的安装和
  • 运行Apple无法验证的程序的方法
  • 文本聚类分析软件的安装和使用方法
  • 利用AI阅读和分析文本:扣子COZE记录用户反

热门用户

GMT+8, 2025-4-22 01:57