怎么能爬取这个网页,里的查询出来的车型表格内容,和每个车型链接的二级网页?http://atestsc.mot.gov.cn/mtsc_webmap/mtsc_carsearch?type=2
现在出现的问题是:1、在谋数台中,在产品名称里输入“客车”查询后的网页地址,和不输入“客车”查询时的空白地址一样,显示不出来要抓取的内容;2、勾选掉内容定位之后,显示出来可抓取的表格内容,但无法定位,且不显示翻页

举报
| 回复

共 10 个关于本帖的回复 最后回复于 2019-10-10 15:34

沙发
Fuller 管理员 发表于 2019-9-29 15:13:16 | 只看该作者
这种网页,必须在抓取的时候自动输入关键词。如果不是旗舰版,只能在规则中放5个关键词,如果是旗舰版,可以在会员中心添加关键词,数量不限。

点击某个车型,会跳出一个新网页才能抓取,这个一定要旗舰版才有飞掠模式,专门抓跳出来的窗口
举报
板凳
hooan2006 初级会员 发表于 2019-9-29 16:45:49 | 只看该作者
Fuller 发表于 2019-9-29 15:13
这种网页,必须在抓取的时候自动输入关键词。如果不是旗舰版,只能在规则中放5个关键词,如果是旗舰版,可 ...

其实我只需要在产品名称里,输入客车,然后抓取客车的就可以,但目前问题是,我输入客车后,页面显示不出来

举报
地板
Fuller 管理员 发表于 2019-9-29 16:56:37 | 只看该作者
hooan2006 发表于 2019-9-29 16:45
其实我只需要在产品名称里,输入客车,然后抓取客车的就可以,但目前问题是,我输入客车后,页面显示不出 ...



在定义规则的模式下,在顶部工具条上有个“内容定位”,不要勾选,点击网页才能有反应。等看到新内容以后,选择菜单 规则-》刷新页面结构,就可以让DOM反映最新网页内容

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报
5#
hooan2006 初级会员 发表于 2019-10-5 14:45:20 | 只看该作者
尝试啦,显示出来第一页抓取内容,但显示不完全,无法显示出右上角的翻页标志~
举报
6#
Fuller 管理员 发表于 2019-10-5 16:20:20 | 只看该作者
今天这个网站好像访问不了,你那边可以看吗?我这里看不了
举报
7#
hooan2006 初级会员 发表于 2019-10-9 17:18:26 | 只看该作者
Fuller 发表于 2019-10-5 16:20
今天这个网站好像访问不了,你那边可以看吗?我这里看不了

现在可以啦,麻烦您再帮看看我说的问题

举报
8#
Fuller 管理员 发表于 2019-10-9 18:54:47 | 只看该作者
hooan2006 发表于 2019-10-9 17:18
现在可以啦,麻烦您再帮看看我说的问题


翻页位置还在,只是被挡住了,我试试能不能做点击翻页

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
举报
9#
Fuller 管理员 发表于 2019-10-9 19:01:05 | 只看该作者
我测试了,无法翻页,按钮被盖住了,要等我们下一个版本,是一个新浏览器,显示是正常的,要过几个星期才能发布
举报
10#
Fuller 管理员 发表于 2019-10-9 19:08:40 | 只看该作者
hooan2006 发表于 2019-10-9 17:18
现在可以啦,麻烦您再帮看看我说的问题

找到一个办法,这个搜索页面其实是在这个网址下的:http://atestsc.mot.gov.cn/LEAP/M ... bcarsearchlist.html

针对这个网址做连续动作和翻页,是可以的,我测试了
举报
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 360或火绒等杀毒软件导致GooSeeker爬虫软件
  • 话题分析(NMF模型和LDA模型)软件的安装和
  • 运行Apple无法验证的程序的方法
  • 文本聚类分析软件的安装和使用方法
  • 利用AI阅读和分析文本:扣子COZE记录用户反

热门用户

GMT+8, 2025-5-3 23:39