:抓取数据的时候,会出现卡住的情况,一卡可能卡一个小时没有动静,大神们知道是什么原因么?

timeout_1.png


:抓取规则的适用性不高,这些网页都失败了,而且要等到超时才能失败,缺省超时10分钟,这样就很慢了。首先要找到不适用的原因,其次调整超时时间,适当缩短。



在MS谋数台上可以单独分析这个网页。等超时以后,DS谋数台下面日志窗口会显示哪条线索失败了,在MS谋数台上用菜单 “工具”->“加载规则”->“按线索”,输入线索号,MS谋数台就能分析哪个抓取内容抓不到。不是必须要抓的,可以把“关键内容”选项不要选。



举报 使用道具
| 回复

共 0 个关于本帖的回复 最后回复于 2015-9-8 16:01

您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 苹果mac电脑安装集搜客网络爬虫软件失败的
  • 下载支持win7的集搜客网络爬虫软件
  • 遇到“无法识别的应用”告警怎么办?
  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词

热门用户

GMT+8, 2024-6-23 23:18