:显示抓取成功,还有爬虫算法需要优化,怎么办

答:显示“需要优化”的话,数据能抓下来,但是速度很慢,要等到超时了才抓。如果没有设置的话,超时时间是10分钟,很长,可以设短一些。但是,最关键是找出来为什么总是超时,总是提示需要优化。如果抓淘宝类网站,这种情况很常见,没有别的好办法。如果是普通的静态网页,这种问题就可能是规则不合适。淘宝和新浪微博类的,可以把超时设置短一些,比如,1分钟,还有一个设置 定时器触发,可以大大加快速度,但是能造成遗漏。



如果有这么一个旋转的圈的,经常会出现那个“需要优化”提示。有些网页,虽然都看到了需要的内容,但是总是旋转,那就设置 定时器触发。

那该如何设置呢?

都在配置菜单中




举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-5-24 10:46

沙发
ym 版主 发表于 2016-5-24 10:46:57 | 只看该作者
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-20 14:25