本帖最后由 15875060036 于 2022-4-11 15:26 编辑

在学怎么样gc抓取豆瓣电影的详情
规则名称
豆瓣的movie
douban的urllist
需要抓取热门页面的5页电影详情
https://movie.douban.com/explore#!type=movie&tag=%E7%83%AD%E9%97%A8&sort=recommend&page_limit=20&page_start=0
我先爬了这些电影的url,在抓取,电影类型、制片国家等在html里面是分开的,不能一起爬下来最后想达到的效果是这样的

请问一下要怎么做
求指点

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
| 回复

共 3 个关于本帖的回复 最后回复于 2022-4-11 16:10

沙发
Fuller 管理员 发表于 2022-4-11 15:54:27 | 只看该作者
我看了你的规则,分成多个字段,分的挺细的,你觉得哪个字段没有达到要求?
举报 使用道具
板凳
Fuller 管理员 发表于 2022-4-11 16:02:32 | 只看该作者
我看就是 类型 字段没有分开,但是要分开实在有些麻烦。两个span节点分别存两种类型。要么就是建立两个抓取内容,分别是 类型1, 类型2,用这两个span做映射
举报 使用道具
地板
Fuller 管理员 发表于 2022-4-11 16:10:14 | 只看该作者
要绝对定位才能区分开导演和编剧,因为这些字段在网页上有相同的结构,html节点有相同的class属性,要是用偏好class,就会因为相同class导致采集到的内容相同。

用了绝对定位,会影响规则的适应性。如果采集其他网页的时候不对,可以像下图一样,给整个整理箱做一个定位映射(第一图),然后除了标题,其他抓取内容放在一个内部整理箱中,给内部整理箱再做一个定位映射。有了定位映射,规则的适应性会提高。

为了做成嵌套整理箱,选中某个抓取内容,鼠标右键有菜单“移动”,可以上下移动或者缩进。




本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 利用AI阅读和分析文本:扣子COZE记录用户反
  • 在网页片段内直观标注——以B站评论采集为
  • 利用AI阅读和分析文本:使用COZE建设游记文
  • 使用AI工具Kimi生成python代码为文本分析结
  • 苹果mac电脑安装集搜客网络爬虫软件失败的

热门用户

GMT+8, 2024-11-25 08:26