抓取的网页在翻页时比较慢,启动DS打数机后,一次是翻到第5页、一次是翻到第3页就卡住,打数机的浏览器窗口为一片空白,应该怎么处理?
举报 使用道具
| 回复

共 4 个关于本帖的回复 最后回复于 2016-7-4 23:48

沙发
Fuller 管理员 发表于 2016-6-30 09:29:51 | 只看该作者
规则名是什么?管理员可以帮你诊断一下
举报 使用道具
板凳
ym 版主 发表于 2016-6-30 09:41:27 | 只看该作者
参考这篇帖子进行分析解决http://www.gooseeker.com/doc/thread-616-1-1.html
举报 使用道具
地板
wuhaowow 新手上路 发表于 2016-7-4 23:15:11 | 只看该作者
ym 发表于 2016-6-30 09:41
参考这篇帖子进行分析解决http://www.gooseeker.com/doc/thread-616-1-1.html

经过几天的尝试,现发现是因为目标网站的打开速度比较慢。
按我现在的情况,大约62s抓取一次,但是会在抓取了十来页后出现因为打开下一页太慢,导致页面只加载了一半,此时满了62s打数机依然执行翻页,就会导致卡住
举报 使用道具
5#
Fuller 管理员 发表于 2016-7-4 23:48:09 | 只看该作者
把超时时间设置大一些,缺省是60秒,这种情况要把超时时间设置很长,比如,120秒
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-26 12:31