还有,关于封锁IP,你们这个对于网站封IP怎么解决的,就是大量抓取后网站封锁你的IP相关
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2015-12-23 11:46

沙发
Anna J 中级会员 发表于 2015-12-23 11:46:46 | 只看该作者
本帖最后由 ym 于 2016-5-31 11:33 编辑

电商网站反爬虫比较严格,爬太快的话就会封ip,但是用gooseeker的爬虫群功能,把速度设置慢点,分多个爬虫来爬,就可以降低封锁ip的风险,还可以爬到更多数据。
封锁了就清cookie,换IP(重启路由器就可以换IP),操作见http://www.gooseeker.com/doc/thread-676-1-1.html
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 运行Apple无法验证的程序的方法
  • 文本聚类分析软件的安装和使用方法
  • 利用AI阅读和分析文本:扣子COZE记录用户反
  • 在网页片段内直观标注——以B站评论采集为
  • 利用AI阅读和分析文本:使用COZE建设游记文

热门用户

GMT+8, 2024-12-19 12:06