本帖最后由 15875060036 于 2022-4-11 15:26 编辑

在学怎么样gc抓取豆瓣电影的详情
规则名称
豆瓣的movie
douban的urllist
需要抓取热门页面的5页电影详情
https://movie.douban.com/explore#!type=movie&tag=%E7%83%AD%E9%97%A8&sort=recommend&page_limit=20&page_start=0
我先爬了这些电影的url,在抓取,电影类型、制片国家等在html里面是分开的,不能一起爬下来最后想达到的效果是这样的

请问一下要怎么做
求指点

image.png (21.61 KB, 下载次数: 370)

image.png
举报 使用道具
| 回复

共 3 个关于本帖的回复 最后回复于 2022-4-11 16:10

沙发
Fuller 管理员 发表于 2022-4-11 15:54:27 | 只看该作者
我看了你的规则,分成多个字段,分的挺细的,你觉得哪个字段没有达到要求?
举报 使用道具
板凳
Fuller 管理员 发表于 2022-4-11 16:02:32 | 只看该作者
我看就是 类型 字段没有分开,但是要分开实在有些麻烦。两个span节点分别存两种类型。要么就是建立两个抓取内容,分别是 类型1, 类型2,用这两个span做映射
举报 使用道具
地板
Fuller 管理员 发表于 2022-4-11 16:10:14 | 只看该作者
要绝对定位才能区分开导演和编剧,因为这些字段在网页上有相同的结构,html节点有相同的class属性,要是用偏好class,就会因为相同class导致采集到的内容相同。

用了绝对定位,会影响规则的适应性。如果采集其他网页的时候不对,可以像下图一样,给整个整理箱做一个定位映射(第一图),然后除了标题,其他抓取内容放在一个内部整理箱中,给内部整理箱再做一个定位映射。有了定位映射,规则的适应性会提高。

为了做成嵌套整理箱,选中某个抓取内容,鼠标右键有菜单“移动”,可以上下移动或者缩进。




举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-25 16:54