怎么能爬取这个网页,里的查询出来的车型表格内容,和每个车型链接的二级网页?http://atestsc.mot.gov.cn/mtsc_webmap/mtsc_carsearch?type=2
现在出现的问题是:1、在谋数台中,在产品名称里输入“客车”查询后的网页地址,和不输入“客车”查询时的空白地址一样,显示不出来要抓取的内容;2、勾选掉内容定位之后,显示出来可抓取的表格内容,但无法定位,且不显示翻页

举报 使用道具
| 回复

共 10 个关于本帖的回复 最后回复于 2019-10-10 15:34

Fuller 管理员 发表于 2019-9-29 15:13:16 | 显示全部楼层
这种网页,必须在抓取的时候自动输入关键词。如果不是旗舰版,只能在规则中放5个关键词,如果是旗舰版,可以在会员中心添加关键词,数量不限。

点击某个车型,会跳出一个新网页才能抓取,这个一定要旗舰版才有飞掠模式,专门抓跳出来的窗口
举报 使用道具
hooan2006 初级会员 发表于 2019-9-29 16:45:49 | 显示全部楼层
Fuller 发表于 2019-9-29 15:13
这种网页,必须在抓取的时候自动输入关键词。如果不是旗舰版,只能在规则中放5个关键词,如果是旗舰版,可 ...

其实我只需要在产品名称里,输入客车,然后抓取客车的就可以,但目前问题是,我输入客车后,页面显示不出来

举报 使用道具
Fuller 管理员 发表于 2019-9-29 16:56:37 | 显示全部楼层
hooan2006 发表于 2019-9-29 16:45
其实我只需要在产品名称里,输入客车,然后抓取客车的就可以,但目前问题是,我输入客车后,页面显示不出 ...

内容20190929165309.png

在定义规则的模式下,在顶部工具条上有个“内容定位”,不要勾选,点击网页才能有反应。等看到新内容以后,选择菜单 规则-》刷新页面结构,就可以让DOM反映最新网页内容
举报 使用道具
hooan2006 初级会员 发表于 2019-10-5 14:45:20 | 显示全部楼层
尝试啦,显示出来第一页抓取内容,但显示不完全,无法显示出右上角的翻页标志~
举报 使用道具
Fuller 管理员 发表于 2019-10-5 16:20:20 | 显示全部楼层
今天这个网站好像访问不了,你那边可以看吗?我这里看不了
举报 使用道具
hooan2006 初级会员 发表于 2019-10-9 17:18:26 | 显示全部楼层
Fuller 发表于 2019-10-5 16:20
今天这个网站好像访问不了,你那边可以看吗?我这里看不了

现在可以啦,麻烦您再帮看看我说的问题

举报 使用道具
Fuller 管理员 发表于 2019-10-9 18:54:47 | 显示全部楼层
hooan2006 发表于 2019-10-9 17:18
现在可以啦,麻烦您再帮看看我说的问题

弹珠20191009185349.png
翻页位置还在,只是被挡住了,我试试能不能做点击翻页
举报 使用道具
Fuller 管理员 发表于 2019-10-9 19:01:05 | 显示全部楼层
我测试了,无法翻页,按钮被盖住了,要等我们下一个版本,是一个新浏览器,显示是正常的,要过几个星期才能发布
举报 使用道具
Fuller 管理员 发表于 2019-10-9 19:08:40 | 显示全部楼层
hooan2006 发表于 2019-10-9 17:18
现在可以啦,麻烦您再帮看看我说的问题

找到一个办法,这个搜索页面其实是在这个网址下的:http://atestsc.mot.gov.cn/LEAP/M ... bcarsearchlist.html

针对这个网址做连续动作和翻页,是可以的,我测试了
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-3-29 15:13