抓取的网页在翻页时比较慢,启动DS打数机后,一次是翻到第5页、一次是翻到第3页就卡住,打数机的浏览器窗口为一片空白,应该怎么处理?
举报 使用道具
| 回复

共 4 个关于本帖的回复 最后回复于 2016-7-4 23:48

沙发
Fuller 管理员 发表于 2016-6-30 09:29:51 | 只看该作者
规则名是什么?管理员可以帮你诊断一下
举报 使用道具
板凳
ym 版主 发表于 2016-6-30 09:41:27 | 只看该作者
参考这篇帖子进行分析解决http://www.gooseeker.com/doc/thread-616-1-1.html
举报 使用道具
地板
wuhaowow 新手上路 发表于 2016-7-4 23:15:11 | 只看该作者
ym 发表于 2016-6-30 09:41
参考这篇帖子进行分析解决http://www.gooseeker.com/doc/thread-616-1-1.html

经过几天的尝试,现发现是因为目标网站的打开速度比较慢。
按我现在的情况,大约62s抓取一次,但是会在抓取了十来页后出现因为打开下一页太慢,导致页面只加载了一半,此时满了62s打数机依然执行翻页,就会导致卡住
举报 使用道具
5#
Fuller 管理员 发表于 2016-7-4 23:48:09 | 只看该作者
把超时时间设置大一些,缺省是60秒,这种情况要把超时时间设置很长,比如,120秒
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 话题分析(NMF模型和LDA模型)软件的安装和
  • 运行Apple无法验证的程序的方法
  • 文本聚类分析软件的安装和使用方法
  • 利用AI阅读和分析文本:扣子COZE记录用户反
  • 在网页片段内直观标注——以B站评论采集为

热门用户

GMT+8, 2025-2-6 13:10