这种页面超过10页后,postion不是连续的,不规则了,有办法可以解决吗?

我的规则名称:安居客_租房_层级



谢谢。

QQ图片20161229140643.png (110.44 KB, 下载次数: 712)

QQ图片20161229140643.png
举报 使用道具
| 回复

共 7 个关于本帖的回复 最后回复于 2017-3-27 18:11

沙发
ym 版主 发表于 2016-12-29 14:28:12 | 只看该作者
点击错位跟position是否连续没有关系,你这里的问题是因为翻页之后,上一页的dom结构也变成a节点了,爬虫就会点到它。
你采集的安居客网页直接用记号线索或相对线索来设置翻页就好了,连续动作设置翻页的话,主要是xpath要调整一下,自动生成的不太合适。
举报 使用道具
板凳
kartik 初级会员 发表于 2016-12-29 15:18:09 | 只看该作者
ym 发表于 2016-12-29 14:28
点击错位跟position是否连续没有关系,你这里的问题是因为翻页之后,上一页的dom结构也变成a节点了,爬虫就 ...

谢谢,记号翻页的话,会出现漏页的情况。 比如一共50页,爬下来远没有50页,不知道有没有好的解决办法?
举报 使用道具
地板
kartik 初级会员 发表于 2016-12-29 15:48:30 | 只看该作者
ym 发表于 2016-12-29 14:28
点击错位跟position是否连续没有关系,你这里的问题是因为翻页之后,上一页的dom结构也变成a节点了,爬虫就 ...

用记号线索翻页会出现漏页的情况;
用相对线索翻页会出现翻页死循环的情况。
管理员有空帮我看看,多谢。
举报 使用道具
5#
ym 版主 发表于 2016-12-29 15:51:26 | 只看该作者
那你还是用相对线索吧,然后DS打数机的高级菜单勾上重复内容,这样重复采集3次后就会自动停止,最后在excel里把数据去重就好了
举报 使用道具
6#
kartik 初级会员 发表于 2016-12-29 15:56:39 | 只看该作者
ym 发表于 2016-12-29 15:51
那你还是用相对线索吧,然后DS打数机的高级菜单勾上重复内容,这样重复采集3次后就会自动停止,最后在excel ...

比如前面10页,一直在重复抓取,这样3次重复停止了,第10页后面的还没有抓取呢
举报 使用道具
7#
ym 版主 发表于 2016-12-29 16:05:26 | 只看该作者
好吧,安居客每一页都有独立网址的,你把每页的网址整理出来,直接添加到规则里,同时删掉翻页设置,就可以单页采集,不用担心重复的问题,构造页码网址的操作参考http://www.gooseeker.com/doc/thread-1299-1-1.html
举报 使用道具
8#
kartik 初级会员 发表于 2016-12-29 16:20:17 | 只看该作者
ym 发表于 2016-12-29 16:05
好吧,安居客每一页都有独立网址的,你把每页的网址整理出来,直接添加到规则里,同时删掉翻页设置,就可以 ...

这是一种方法,只是麻烦了点,不大自动化。
谢谢。
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-5-3 14:00