快捷导航
因为微博工具箱暂时无法满足项目对于数据的需求,自己做了一个微博关键词爬取的规则,使用相同规则、相同线索,通过新版本客户端(8.6.4)的单搜和旧版本客户端(8.6.0)的爬虫群功能均能实现完整地爬取,但是使用新版本客户端的爬虫群功能爬取时却出现线索页面显示不全、翻页不全的问题,请问这是什么原因造成的?



完整数据

完整数据

使用爬虫群得到的数据,只有第一页内容

使用爬虫群得到的数据,只有第一页内容

页面显示不完整

页面显示不完整
举报 使用道具
| 回复

共 6 个关于本帖的回复 最后回复于 2020-11-25 15:45

wangyong 版主 发表于 2020-11-25 15:45:28 | 显示全部楼层
爬微博关键词搜索数据可以直接用微博工具箱中的微博关键词搜索工具,下载数据管家后,进入微博关键词搜索工具页面
微博工具箱-关键词搜索.png
输入要采集的微博关键词,启动采集,除输入关键词外还可以设置采集起止时间和设置细分时间段,来突破一次搜索只能显示前五十页数据的条件,细分条件后,爬虫会按照条件自动设置多个搜索
微博关键词搜索控制面板.png

待采集完成后即可打包下载数据,整个流程不需要任何开发,只需要按照步骤输入关键词和启动爬虫软件就可以采集的数据了,非常方便好用。
微博关键词搜索数据展示.png

举报 使用道具
Fuller 管理员 发表于 2018-5-4 23:12:18 | 显示全部楼层
规则名是什么?
举报 使用道具
Nina_W20 初级会员 发表于 2018-5-4 23:21:16 | 显示全部楼层
Fuller 发表于 2018-5-4 23:12
规则名是什么?

自我损耗_测试
举报 使用道具
Nina_W20 初级会员 发表于 2018-5-4 23:25:59 | 显示全部楼层

以及 我在另一个电脑上爬别的数据,跳出显示“运行的爬虫数超出限额”,可是已购买旗舰版且只登陆过4台电脑。
举报 使用道具
Fuller 管理员 发表于 2018-5-4 23:51:25 | 显示全部楼层
Nina_W20 发表于 2018-5-4 23:25
以及 我在另一个电脑上爬别的数据,跳出显示“运行的爬虫数超出限额”,可是已购买旗舰版且只登陆过4台电 ...

很抱歉我们的服务器程序在判断配额的时候有bug,我们正在解决这个问题,我已为您调整了配额
举报 使用道具
Nina_W20 初级会员 发表于 2018-5-5 15:09:46 | 显示全部楼层
Fuller 发表于 2018-5-4 23:12
规则名是什么?

请问您在后台有发现这是什么原因造成的问题了吗?
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 采集图片网址并下载图片(二)——下载途牛
  • 采集图片网址并下载图片(一)—— 单图下
  • 定位映射采集列表数据——以B站视频列表为
  • 网络爬虫抓包功能
  • 内容映射

热门用户

GMT+8, 2021-1-17 10:55