抓取到网页,里面的超链接无法打开呢,比如
QQ图片20151015100456.png
这种地址,爬取下来的链接地址在网页中打不开,有什么办法么?我想在下级线索中,用这个地址爬取下级地址的列表

答:不能直接打开是因为不是完整地址,但是如果作为下级线索,可以直接用,爬虫生成下级线索的时候会把网址补齐



举报 使用道具
| 回复

共 3 个关于本帖的回复 最后回复于 2018-6-11 15:43

Oopeng 新手上路 发表于 2018-6-11 13:46:17 | 显示全部楼层
我抓取的网址不完整,但是下级线索并没有补全,二级抓取的时候出现了网页结构但是里面网页里面没有任何内容
举报 使用道具
maomao 论坛元老 发表于 2018-6-11 14:52:27 | 显示全部楼层
Oopeng 发表于 2018-6-11 13:46
我抓取的网址不完整,但是下级线索并没有补全,二级抓取的时候出现了网页结构但是里面网页里面没有任何内容 ...

你的规则是什么?把主题名发出来帮你诊断一下
举报 使用道具
Fuller 管理员 发表于 2018-6-11 15:43:16 | 显示全部楼层
除非抓取到的内容并不是网址,比如,含有网址不允许的内容,否则都能补全,目前还没有遇到补不全的情况。你可以把主题名发出来,管理员是可以从远程做诊断的
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-19 02:55