本帖最后由 HeatherZhou 于 2024-3-21 08:13 编辑

两台台电脑同时运行同一个账号下的同一个规则采取数据两台台电脑同时运行同一个账号下的同一个规则采取数据然后输出结果所有都重复了一遍,是为什么呢???不是说会自动分配网址的吗?
举报 使用道具
| 回复

共 2 个关于本帖的回复 最后回复于 2024-3-21 15:24

沙发
gz51837844 管理员 发表于 2024-3-21 15:24:28 | 只看该作者
你可以按这几个字段统计下:网址,爬取时间,当前页码
如果大部分网址都在不同的时间爬取了不止一次,那就说明有重复的运行。如果有少量网址有重复,那可能是测试的原因
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • 利用AI阅读和分析文本:扣子COZE记录用户反
  • 在网页片段内直观标注——以B站评论采集为
  • 利用AI阅读和分析文本:使用COZE建设游记文
  • 使用AI工具Kimi生成python代码为文本分析结
  • 苹果mac电脑安装集搜客网络爬虫软件失败的

热门用户

GMT+8, 2024-10-22 10:46