GooSeeker
产品
资源
教程
视频教程
使用交流
资讯
开启辅助访问
切换风格
登录
|
注册
快捷导航
搜索
搜索
本版
文章
帖子
用户
资讯
常见问题
使用交流
python交流
视频教程
资源发布公告
数学建模交流
论坛
›
搜客社区
›
使用交流
1
12279
怎么增量抓数据
努力成为A
于 2016-1-14 20:49
发表
[复制链接]
努力成为A
积分
89
精华
0
威望
28
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
怎么增量抓数据?可不可以只抓新的数据
举报
使用道具
|
回复
共 1 个关于本帖的回复 最后回复于 2016-1-14 20:56
ym
积分
5311
精华
24
威望
1760
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
ym
版主
发表于 2016-1-14 20:56:02
|
显示全部楼层
本帖最后由 ym 于 2019-5-28 10:14 编辑
下面是旧版的调度功能界面,新版本的调度功能请看
《调度设置操作介绍》
。
如果是层级规则,第一级主题采集列表网址,第二级主题采集详情页信息,这种情况可以通过
爬虫群
采集实现增量抓取,分别对两级主题进行调度设置,其中第一级主题名要额外设置如下参数,才能实现采集新增网址的目的。
1、登录集搜客官网的会员中心->规则管理->***主题名->调度
2、第一级主题在设置完其他参数后,需要额外设置的参数如下:
激活下级线索选择“否”
下级线索重复容忍度可填0-100的范围,如果新增网址是在列表的最后一页,就要填100重头到尾采集一遍列表页,如果新增网址是在前面几页,就可以填小于100
激活线索设置选择“是”,然后设置定时采集的周期时间
完成以上设置后,通过爬虫群采集,第一级主题每次采集,就会只把新增的下级线索网址传递给第二级主题,从而实现增量抓取。
举报
使用道具
回复
支持
反对
返回列表
B
Color
Image
Link
Quote
Code
Smilies
高级模式
您需要登录后才可以回帖
登录
|
立即注册
发表回复
回帖并转播
回帖后跳转到最后一页
回复
推荐板块
使用交流
常见问题
数学建模交流
python交流
视频教程
精彩推荐
对共词关系求协方差矩阵后再用Girvan-Newma
社区发现算法Girvan-Newman(GN)是否能应用
使用GooSeeker分词和Gephi进行中文文本分析
Gephi社会网络分析-网络图的统计
范文:亚运短视频对杭州城市形象的建构研究
热门话题
1
【集微库】微博采集工具箱使用常见问题
2
集搜客文本分词标注工具(V1版)
3
怎样使用快捷采集(以采集京东评论为例)
4
有没有办法采集机场的出租车信息?
5
【求助】关于采集阿里巴巴国际站访客详情分
6
获得积分的好方法:转发小程序、QQ群、微信
7
GooSeeker分词,情感分析和关键词抽取平台使
8
新浪微博_博主主页
9
集搜客GooSeeker 网络爬虫版本发布公告
10
【天猫商品搜索列表采集】#GooSeeker数据DI
热门用户
Fuller
帖子:10144
访问主页>>
wangyong
帖子:1686
访问主页>>
gbkuce
帖子:0
访问主页>>
GMT+8, 2023-6-5 22:37
快速回复
快速发帖
返回顶部
返回列表
共 1 个关于本帖的回复 最后回复于 2016-1-14 20:56