GooSeeker
产品
资源
教程
视频教程
使用交流
资讯
开启辅助访问
切换风格
请
登录
后使用快捷导航
没有帐号?
立即注册
登录
|
注册
快捷导航
资讯
常见问题
使用交流
python交流
视频教程
资源发布公告
数学建模交流
论坛
›
搜客社区
›
python交流
4
15918
有什么好的方案爬取知乎全部话题列表?
xandy
于 2016-11-11 18:11
发表
[复制链接]
[只看楼主]
[打印]
[上一主题]
[下一主题]
xandy
积分
3345
精华
0
威望
1130
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
最近想和同学搞一个知乎数据可视化项目。首先想的是展示知乎话题树。不知道知乎是否有开放相关的API?还有知乎的爬虫条款是怎么样的,会不会我爬多了封号封IP?因为经常看到很多爬取知乎数据的文章,因此来请教各位老司机。不一定要具体代码,只要介绍一些思路和注意事项就好了。当然如果能有一个完整的demo挂到github就更好了,感激不尽!
收藏
0
转播
支持
0
反对
0
举报
使用道具
|
回复
共 4 个关于本帖的回复 最后回复于 2019-10-28 20:03
Fuller
积分
23585
精华
0
威望
6502
金钱
6
最后登录 2024-12-23
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
沙发
Fuller
管理员
发表于 2016-11-11 19:24:43
|
只看该作者
实现你这种开放式需求,API几乎不会存在,一定要使用网络爬虫,网络爬虫被封IP也是十分常见的,因为这种研究项目要求网络爬虫快速地获取需要的网页,不会预留很多时间慢慢爬的。
集搜客网络爬虫
都考虑到了这些问题,而且有直观标注方式,对于非技术出身的用户,十分易学易用。
要建立话题树,需要对抓取下来的内容进行分词和打标,然后整理成数状的语义结构。可以用GooSeeker分词打标软件。
举报
使用道具
回复
支持
反对
maomao
积分
7105
精华
0
威望
3324
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
板凳
maomao
论坛元老
发表于 2018-4-17 12:13:59
|
只看该作者
现在,采集知乎网页,用
Gooseeker数据DIY
,更方便快捷,输入网址,即可采集,采集页数,可以设置
举报
使用道具
回复
支持
反对
DHSakura
积分
7
精华
0
威望
2
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
地板
DHSakura
新手上路
发表于 2019-10-28 19:27:45
|
只看该作者
知乎的话题是有向无循环图,可以考虑广度优先遍历法,从根话题开始爬。可以查知乎的V4 API。
举报
使用道具
回复
支持
反对
Fuller
积分
23585
精华
0
威望
6502
金钱
6
最后登录 2024-12-23
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
5
#
Fuller
管理员
发表于 2019-10-28 20:03:39
|
只看该作者
设置集搜客网络爬虫的“不重新激活下级线索”,那么就不会出现循环
举报
使用道具
回复
支持
反对
返回列表
B
Color
Image
Link
Quote
Code
Smilies
高级模式
您需要登录后才可以回帖
登录
|
立即注册
发表回复
回帖并转播
回帖后跳转到最后一页
回复
推荐板块
使用交流
常见问题
数学建模交流
python交流
视频教程
精彩推荐
运行Apple无法验证的程序的方法
文本聚类分析软件的安装和使用方法
利用AI阅读和分析文本:扣子COZE记录用户反
在网页片段内直观标注——以B站评论采集为
利用AI阅读和分析文本:使用COZE建设游记文
热门话题
1
【集微库】微博采集工具箱使用常见问题
2
集搜客文本分词标注工具(V1版)
3
怎样使用快捷采集(以采集京东评论为例)
4
有没有办法采集机场的出租车信息?
5
获得积分的好方法:转发小程序、QQ群、微信
6
【求助】关于采集阿里巴巴国际站访客详情分
7
GooSeeker分词,情感分析和关键词抽取平台使
8
新浪微博_博主主页
9
怎样采集抖音关键词搜索后的数据
10
集搜客GooSeeker 网络爬虫版本发布公告
热门用户
Fuller
帖子:10575
访问主页>>
wangyong
帖子:1714
访问主页>>
gbkuce
帖子:0
访问主页>>
GMT+8, 2024-12-24 03:59
快速回复
快速发帖
返回顶部
返回列表
共 4 个关于本帖的回复 最后回复于 2019-10-28 20:03