GooSeeker
产品
资源
教程
视频教程
使用交流
资讯
开启辅助访问
切换风格
请
登录
后使用快捷导航
没有帐号?
立即注册
登录
|
注册
快捷导航
资讯
常见问题
使用交流
python交流
视频教程
资源发布公告
数学建模交流
论坛
›
搜客社区
›
使用交流
3
11193
怎样用crontab增量采集数据
HW老施
于 2015-12-2 12:17
发表
[复制链接]
[只看楼主]
[打印]
[上一主题]
[下一主题]
HW老施
积分
64
精华
0
威望
20
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
想要抓取的交易纪录中有些商品销量极高, 需增量採集。但在翻过几轮教程后, 提到增量採集的教程很少, crontab的变数解释上关于增量採集的部分也不多 , 请问关于增量採集有详细的crontab设定范例可以参考吗?
收藏
0
转播
支持
1
反对
0
举报
使用道具
|
回复
共 3 个关于本帖的回复 最后回复于 2017-1-8 15:59
ym
积分
5311
精华
24
威望
1760
金钱
2
最后登录 1970-1-1
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
沙发
ym
版主
发表于 2015-12-2 14:55:17
|
只看该作者
本帖最后由 ym 于 2015-12-2 14:57 编辑
实现增量采集的关键参数是period,renewclue
1)parameter部分的period是控制周期的,表示调度下一批次的时间间隔,以秒为单位,想要每日都采集一遍的话,可以设置period为86400(24X60X60),如果是早上9点打开DS调度窗口的话,只要有等待抓取的线索,以后每天9点都会重新爬一遍
2)step部分的renewclue是用来激活线索的,填true就会激活所有线索,如果只想要爬特定线索,那就把规则下的所有线索删掉,再把特定线索添加到规则里,这样,激活线索时就没有不需要的线索了
举报
使用道具
回复
支持
1
反对
0
Fuller
积分
23453
精华
0
威望
6444
金钱
6
最后登录 2024-11-21
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
板凳
Fuller
管理员
发表于 2016-6-2 23:16:48
|
只看该作者
尽量用会员中心的爬虫罗盘调度功能吧,参数设置十分直观,crontab.xml将逐渐废弃了
举报
使用道具
回复
支持
反对
Fuller
积分
23453
精华
0
威望
6444
金钱
6
最后登录 2024-11-21
加为好友
发送消息
访问家园
个人资料
主题列表
发消息
地板
Fuller
管理员
发表于 2017-1-8 15:59:26
|
只看该作者
V8.1.1正式废弃了
crontab.xml
,因为要设置的选项太多了,使用难度很大,只给旗舰版和更高版本用户保留了
crontab.xml
,可用于高频度增量采集
举报
使用道具
回复
支持
反对
返回列表
B
Color
Image
Link
Quote
Code
Smilies
高级模式
您需要登录后才可以回帖
登录
|
立即注册
发表回复
回帖并转播
回帖后跳转到最后一页
回复
推荐板块
使用交流
常见问题
数学建模交流
python交流
视频教程
精彩推荐
利用AI阅读和分析文本:扣子COZE记录用户反
在网页片段内直观标注——以B站评论采集为
利用AI阅读和分析文本:使用COZE建设游记文
使用AI工具Kimi生成python代码为文本分析结
苹果mac电脑安装集搜客网络爬虫软件失败的
热门话题
1
【集微库】微博采集工具箱使用常见问题
2
集搜客文本分词标注工具(V1版)
3
怎样使用快捷采集(以采集京东评论为例)
4
有没有办法采集机场的出租车信息?
5
获得积分的好方法:转发小程序、QQ群、微信
6
【求助】关于采集阿里巴巴国际站访客详情分
7
GooSeeker分词,情感分析和关键词抽取平台使
8
新浪微博_博主主页
9
怎样采集抖音关键词搜索后的数据
10
集搜客GooSeeker 网络爬虫版本发布公告
热门用户
Fuller
帖子:10559
访问主页>>
wangyong
帖子:1712
访问主页>>
gbkuce
帖子:0
访问主页>>
GMT+8, 2024-11-22 03:02
快速回复
快速发帖
返回顶部
返回列表
共 3 个关于本帖的回复 最后回复于 2017-1-8 15:59