11#
joanne 初级会员 发表于 2017-7-18 07:52:33 | 只看该作者
Fuller 发表于 2017-7-18 07:47
网站可能把你屏蔽了。清cookies,最好也换一下IP。爬一个网站的时候,一台机器最多开5个爬虫。太多了,网站 ...

mac版的哪里清除 我找不到
举报 使用道具
12#
Fuller 管理员 发表于 2017-7-18 07:58:59 | 只看该作者
你的爬虫版本太老了,什么时候下载的?下载安装个新版本吧。
举报 使用道具
13#
Fuller 管理员 发表于 2017-7-18 08:01:07 | 只看该作者
如果不想下载安装最新版本,参照这篇帖子清cookies  
http://www.gooseeker.com/doc/thread-4610-1-1.html
举报 使用道具
14#
joanne 初级会员 发表于 2017-7-18 08:12:18 | 只看该作者
Fuller 发表于 2017-7-18 07:58
你的爬虫版本太老了,什么时候下载的?下载安装个新版本吧。

我下了新版本 也清除了 就是没有换ip地址 因为我就这台电脑 也就开了5个打数机
问题还是存在啊
举报 使用道具
15#
Fuller 管理员 发表于 2017-7-18 08:17:53 | 只看该作者
换个IP吧,或者通过VPN访问,IP就变了
举报 使用道具
16#
Fuller 管理员 发表于 2017-7-18 08:21:01 | 只看该作者
或者,换一下user agent

jona1.png (135.21 KB, 下载次数: 825)

jona1.png
举报 使用道具
17#
joanne 初级会员 发表于 2017-7-18 08:45:37 | 只看该作者
Fuller 发表于 2017-7-18 08:21
或者,换一下user agent

我改了 问题还是存在 怎么办啊 好奔溃
举报 使用道具
18#
Fuller 管理员 发表于 2017-7-18 09:04:18 | 只看该作者
joanne 发表于 2017-7-18 08:45
我改了 问题还是存在 怎么办啊 好奔溃

一会负责采集数据的同事上班了,我让他跟你联系一下, 协助你采集,比如,帮你采集一部分,你采集一部分。针对一个网站,避免在短时间内很大量地采集,即使要采集,也要分散到多台电脑上
举报 使用道具
19#
joanne 初级会员 发表于 2017-7-18 09:05:07 | 只看该作者
Fuller 发表于 2017-7-18 09:04
一会负责采集数据的同事上班了,我让他跟你联系一下, 协助你采集,比如,帮你采集一部分,你采集一部分 ...

什么时候能上班 我这里已经凌晨2点了
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-5-17 17:10