要抓取的携程网网页中的机票,设置的抓取规则相当简单,只有两个一个规则和样例复制,没有翻页。改变抓取网址是自己将某一天的网址批量导入到规则里的,直接导进了爬虫数据。
以往都很好用,但是今天出现了匹配失败的问题,重新制作了规则后,仍然有大部分网页出现问题。

1.png (391.61 KB, 下载次数: 854)

1.png
举报 使用道具
| 回复

共 4 个关于本帖的回复 最后回复于 2016-9-22 15:18

沙发
wangyong 版主 发表于 2016-9-21 16:22:08 | 只看该作者
可能是网页结构发生里变化,采集失败后打数机的日志窗口会显示线索编号,在谋数台通过线索编号加载分析失败原因
教程参看:http://www.gooseeker.com/doc/article-272-1.html
举报 使用道具
板凳
Fuller 管理员 发表于 2016-9-21 16:44:17 | 只看该作者
在DS打数机的日志窗口可以看到失败的线索编号,记住这个编号,到MS谋数台上,选择菜单 工具-》加载规则-》按线索号,加载上以后会报告失败原因,根据失败原因,调整抓取规则

另外,我观察了一下你的截图,抓取内容都没有使用定位标志映射,我记得携程网站上有很多特别好的@class, @id,可以作为定位标志,可以提高规则的适应性
举报 使用道具
地板
xinqiang59 新手上路 发表于 2016-9-22 14:07:14 | 只看该作者
我已经做了定位标志,但是有的网页也会出现问题,另外,网页中航线数据 抓取不完全,是什么原因,求解决。万分感谢。

QQ截图20160922140530.png (188.78 KB, 下载次数: 802)

QQ截图20160922140530.png
举报 使用道具
5#
Fuller 管理员 发表于 2016-9-22 15:18:11 | 只看该作者
xinqiang59 发表于 2016-9-22 14:07
我已经做了定位标志,但是有的网页也会出现问题,另外,网页中航线数据 抓取不完全,是什么原因,求解决。 ...

我加载了你的规则测试,加载能成功了,你抓取不全的原因是选择了东航特有的@class值,仔细看红框里面的@class,是mu表示东航,所以,我建议你用蓝框的定位标志



举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-5-1 19:48