我想采集www.wish.com这里面的产品的评论者昵称,但是评论页是瀑布流,我设置了滚动,却滚不了,采集的数据都是重复的。
举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2016-10-19 15:22

沙发
Fuller 管理员 发表于 2016-10-19 15:22:34 | 只看该作者
滚屏有两类:
1)一口气滚到底,再抓取:在教程中我们称之为自动滚屏,这个是要在DS打数机菜单中设置,配置-》滚屏参数,把“滚屏次数”设置成>0的值。或者在会员中心,为特定的抓取规则设置滚屏参数,这是用于爬虫群模式的设置方式:http://www.gooseeker.com/doc/thread-1146-1-1.html

2)连续动作中的滚屏,滚一屏,抓一屏:这种用于瀑布流网页的抓取,具体参看:http://www.gooseeker.com/doc/article-141-1.html ,场景二,这种网页是滚不到底的,或者滚到下面,上面的内容就删除了,不能等滚到底才抓
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-28 11:49