想要用python实现一个爬虫,来完成自己的一些需求。
参考网上的资料,发现对自己而言有两种待选的方案:
1. 使用scrapy框架
     都说该框架功能强大,实现简单。但是听说不支持python3
2. 使用requests 和 bs4等库来自己实现
     相比方案一,可能要自己多写好多代码,以及性能可能不如开源的框架。

希望熟悉的人回答一下 scrapy对python3的支持到底如何?
如果采用方案二,那么想问 ,如果我想要利用 requests, bs4等库 实现一个简单版的 scrapy, 困难有多大,需要学习那些东西?
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-10-18 10:47

沙发
shenzhenwan10 金牌会员 发表于 2016-10-18 10:47:03 | 只看该作者
本帖最后由 shenzhenwan10 于 2016-10-18 22:11 编辑

scrapy现在已经支持python3了,具体可以参考这篇文章:为编写网络爬虫程序安装Python3.5
假如你是为了完成工作,就用它好了,也可以使用集搜客通用爬虫
假如你想深刻的了解爬虫,和业务结合的更紧密,掌握出现问题的解决方案,可以尝试一下自己写
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 运行Apple无法验证的程序的方法
  • 文本聚类分析软件的安装和使用方法
  • 利用AI阅读和分析文本:扣子COZE记录用户反
  • 在网页片段内直观标注——以B站评论采集为
  • 利用AI阅读和分析文本:使用COZE建设游记文

热门用户

GMT+8, 2024-12-24 11:20