配套软件版本:V9及更低 集搜客网络爬虫 新版本对应教程:V10及更高 数据管家——增强版网络爬虫 的对应教程是《爬网址做层级采集——以京东商品爬虫为例》 注:集搜客GooSeeker爬虫从V9.0.2版本开始,爬虫术语“主题”统一改为“任务”,在爬虫浏览器里先命名任务再创建规则,然后登录集搜客官网会员中心的“任务管理”里,就可以查看任务的采集执行情况、管理线索网址以及做调度设置了。 一、操作步骤(观看视频) 前面写过两篇教程,《采集列表数据》是采集大众点评的列表页,《采集网页数据》是采集大众点评的店铺详情页,很多人想把这两个串在一起,这样就能批量采集店铺详情页的数据了。下面我们通过层级采集来实现,它是通过网址关联起两级页面,从而实现批量采集第二级页面。下面还是以大众点评为例,讲解如何设置层级采集。操作步骤如下: 请注意:如果定义完第一级规则紧接着定义第二级规则,请清空工作台后再定义第二级规则,防止把第一级规则的内容带到第二级来。清空工作台的方法是使用菜单:规则-》新建。 二、案例规则+操作步骤
第一步:定义第一级规则的具体操作可以参考文章《采集列表数据》,如需设置翻页,请参考文章《翻页采集列表》,下面从第二步操作讲起。 第二步:设置下级线索 2.1,网址通常是存在attributes下的@href节点中。在浏览器上直接点击商品的标题定位到网页节点H4,展开它的下层节点,没有找到@href,再找它的上层节点A,找到@href,注意要检验一下是否为对应的下级网址,再右击@href选择“内容映射”->“新建抓取内容”,输入标签名(任意命名),比如,“网址”。 2.2,在整理箱里选中“网址”,打勾“下级线索”。这个只能对映射了下级网址的标签名进行设置。 2.3,这时,会有窗口弹出来,要求输入第二级规则的主题名。把下级规则的名字输入,确定。 2.4,测试没有问题,就可以保存规则。 注意:如下图,抓到的是相对网址,即缺少了域名部分,这是因为很多网站都采用了相对网址的方式,但是爬虫给下级主题生成线索就会自动补全域名,所以,不会影响下级网页的采集。 第三步:定义第二级规则 点击“规则”菜单->“新建”,工作台会被清空,就可以开始做第二级主题的规则,拷贝第二级页面的样例网址到输入框,命名主题里要填第二级主题名(前面第一级规则,填的下级规则名),然后标注网页上想要的信息。做规则的操作都是差不多的,想要看手把手的操作请看《采集网页数据》教程,这里就不重复讲了。 第四步:抓数据 4.1,层级规则是分开独立运行的,先运行第一级规则,它就会把抓到的下级网址自动导入到第二级规则里。如何采数据的操作见《DS打数机采集数据》。 4.2,再运行第二级规则,先统计一下线索数,然后就可以输入统计到的网址数,进行批量采集。如果两级要同时运行,点各自的“集搜”,就能各自运行在集搜窗口。 4.3,采集成功的数据会以xml文件的形式保存在DataScraperWorks文件夹中,详情见文章《查看数据结果》,另外,两级规则的数据如果要合并可以参考文章《多层级采集结果合并》。 上篇文章:《翻页采集列表》 下篇文章:《定位标志:精确采集范围》 |
1298681477: 知网爬取论文关键词和摘要时,二级页面的网址和其@href没有关系怎么办?(也就是说用@href的网址打不开二级页面) ...
群青: 不知道为什么在做第一个规则的时候,点评数量和人均价格数据测试下来是1
晴时有风阴有时雨: 抓取数据的步骤不是很明确,还是有点搞不懂,分别保存两个规则后该怎么运行,明明在第一个规则里面设置了翻页,抓取数据的时候还是显示的待抓取规则数为1,第二 ...
maehot: 挺好用的,就是这个逻辑步骤混乱...比如说采集百度知道,火车头设置列表地址就可以采集出来终极内容页地址,然后还可以多页采集,需要什么数据采集什么数据,数 ...
temprani: “2.4 很多网站都采用了相对网址的方式”, 我试了一下,每一条抓到的都是<网址>javascript:;</网址>,这个怎么破? ...
temprani: “2.4 很多网站都采用了相对网址的方式”, 我试了一下,每一条抓到的都是<网址>javascript:;</网址>,这个怎么破? ...
nixiaoqiang: 二级采集的话还得手动输入采集数是吧,否则就只采集一行数据?
yangwenge: 需要激活线索,才能重新采集,可以参考管理线索的教程<a href="https://www.gooseeker.com/doc/thread-667-1-1.html" target="_blank">https://www.gooseeker.com/doc/thread-667-1-1.html</a>
nixiaoqiang: 规则采集过来,还想重新采集,为啥就采集不了了,求解释~~~
yangwenge: 注意看第一步,上面有写制作了翻页的,如果没有制作翻页,只勾选了下级线索那么就只有线索1。