快捷导航
本帖最后由 langjunlan 于 2018-9-12 18:04 编辑

采集页面如下:
QQ图片20180912172827.png
排序都需要采集,同一页面不能用同一个样例复制,那怎么办呀

主题名:百度小说风云榜_玄幻奇幻_列表页0912
举报 使用道具
| 回复

共 12 个关于本帖的回复 最后回复于 2018-9-19 17:32

Fuller 管理员 发表于 2018-9-12 18:05:35 | 显示全部楼层
就是1,2,3比较特殊,后面的榜单是另外的样式。一定要放在一起吗?比如,创建两个子整理箱,一个放前三名,一个放其他榜单,两个子箱子各自做各自的样例复制。你的主题名是什么,发出来我加载分析一下
举报 使用道具
Fuller 管理员 发表于 2018-9-12 18:16:32 | 显示全部楼层
我加载你的规则看了,看来前三名虽然看起来内容很复杂,但是用相同的样例复制映射规则是可以采集到的,现在只是作品排名的样式不同影响了采集这个号码。我调一下
举报 使用道具
langjunlan 初级会员 发表于 2018-9-12 18:18:17 | 显示全部楼层
好的,怎么调整呢?
举报 使用道具
Fuller 管理员 发表于 2018-9-12 18:23:14 | 显示全部楼层
定位20180912182042.png

这个网页其实特别规整,做规则特别好做,要用上定位标志映射,可以让规则更加精确。

每个字段都有含有很特别和明确的@class值,正好做定位标志,看红框的定位标志过程


蓝框中的@class就要一定避免使用,因为前3个榜单他们用的class和后面的不一样,就是用这个class区分的,只要避开他,就能把整个排行榜完整地采集下来
举报 使用道具
langjunlan 初级会员 发表于 2018-9-12 18:30:54 | 显示全部楼层
明白了,去试试看
举报 使用道具
langjunlan 初级会员 发表于 2018-9-13 13:33:10 | 显示全部楼层
QQ图片20180913133113.png QQ图片20180913133121.png
规则已经修改过了,如上图,但是测试出来的,3以后的作品还是只爬取到了偶数个
举报 使用道具
Fuller 管理员 发表于 2018-9-13 15:49:20 | 显示全部楼层
样例复制是不是没有用第一个和第二个?
举报 使用道具
Fuller 管理员 发表于 2018-9-13 15:54:13 | 显示全部楼层
langjunlan 发表于 2018-9-13 13:33
规则已经修改过了,如上图,但是测试出来的,3以后的作品还是只爬取到了偶数个
...

你的规则再次加载不成功

搜索20180913155202.png

我看了一下,你使用了这个class值做为定位标志,但是这个值会不断变化的,有时候上升,有时候下降,那么上升的时候就定位不到,也会采集不到数据。应该像我前一个帖子的截图那样,用上定位标志映射,就能跳过去自动选择的 @class='icon-fall'
举报 使用道具
langjunlan 初级会员 发表于 2018-9-19 15:54:28 | 显示全部楼层
我后来又尝试过几次,还是没成功,是不是需要用自定义的xpath去定位?
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 大型百货商场会员画像描绘
  • 自动导入导出数据
  • 批量爬取蘑菇街商品价格、评论信息
  • 微博用户数据分析
  • 批量爬取苏宁商品价格、评论信息

热门用户

集搜客GooSeeker网络爬虫 ( 粤ICP备11065265号-2 )

GMT+8, 2018-11-15 11:41