如题。
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-8-19 22:03

沙发
Fuller 管理员 发表于 2016-8-19 22:03:09 | 只看该作者
数据采集是高密度地访问目标网站,真正的云采集最大的问题是被封IP

云采集最重要的卖点应该是:自己的电脑关了,也能采集。
具体解释就是:把采集任务部署好以后,就不用管了,光等着去收数据就行了。

其实采集数据不用管在哪里,在云上也好,在离散的电脑上也好,反正用户自己的电脑不用参与,爬虫是在其他电脑上运行的。这样看来,云还是非云,是没有区别的。
真正的云采集,网络爬虫软件运行在有固定IP的服务器上,无论有100个服务器还是1000个服务器,大批量采集的时候,封锁IP是很快的,很快就会把这100甚至1000个IP封锁掉。那么应对反爬变成了最头疼的问题。

GooSeeker网络爬虫并不可以炒作“云采集”,想运行在云上还是运行在离散的电脑上,那是用户自己的选择。因为GooSeeker采用了一个弹性计算架构,电脑可以随时加入到这个架构中,而且不区分是否是云,也不限制数量,形成一个大规模的爬虫群
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 话题分析(NMF模型和LDA模型)软件的安装和
  • 运行Apple无法验证的程序的方法
  • 文本聚类分析软件的安装和使用方法
  • 利用AI阅读和分析文本:扣子COZE记录用户反
  • 在网页片段内直观标注——以B站评论采集为

热门用户

GMT+8, 2025-3-12 17:28