2 9798

技术大神想咨询个问题

fred590 于 2019-7-13 20:52 发表 [复制链接]
技术大神想咨询个问题,在二级爬取后还想进行三级爬取,但第三级网站可能没有那么统一,这时候怎么定义第三级?像这种情况能爬吗?
举报 使用道具
| 回复

共 2 个关于本帖的回复 最后回复于 2019-7-13 23:32

Fuller 管理员 发表于 2019-7-13 22:39:20 | 显示全部楼层
用爬虫做的规则相当于一个模板,如果第三级不统一,就没法做模板。除非想把整个网页内容存下来,这个可以做的很通用,把整个body节点映射给抓取内容就行。但是,如果要抓取一个个字段,就不好做成通用的规则
举报 使用道具
fred590 初级会员 发表于 2019-7-13 23:32:54 | 显示全部楼层
Fuller 发表于 2019-7-13 22:39
用爬虫做的规则相当于一个模板,如果第三级不统一,就没法做模板。除非想把整个网页内容存下来,这个可以做 ...

明白了,谢谢

举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-19 09:29