我的目的:想通过定位标志来限定网页上数据的采集范围,达到优化采集,减少采集时间的效果,但是为啥我根据@id定位标志之后,爬数据的时候,网页并没有在限制范围内采集,而是浏览了整个网页

QQ截图20170323161315.png (153.67 KB, 下载次数: 817)

QQ截图20170323161315.png
举报 使用道具
| 回复

共 6 个关于本帖的回复 最后回复于 2017-3-26 10:03

沙发
ym 版主 发表于 2017-3-23 17:31:37 | 只看该作者
本帖最后由 ym 于 2017-3-23 17:33 编辑

要找到属性值(id或class)是唯一的节点做定位标志映射,可以用“显示xpath”窗口搜索一下是否唯一

举报 使用道具
板凳
wevolution 高级会员 发表于 2017-3-24 10:21:09 | 只看该作者
好的,我试试。你有微信吗,方便价格好友,以后可以多多请教一下你
举报 使用道具
地板
wevolution 高级会员 发表于 2017-3-24 14:09:51 | 只看该作者
ym 发表于 2017-3-23 17:31
要找到属性值(id或class)是唯一的节点做定位标志映射,可以用“显示xpath”窗口搜索一下是否唯一

...

我试过了这个DIV的id值确实是唯一的,但是为啥还是不行,爬数据的时候还是会跑完整个网页,但是我定位标志限定的范围只有网页最上面一点

QQ截图20170324140407.png (122.65 KB, 下载次数: 844)

QQ截图20170324140407.png

QQ截图20170324140030.png (112.61 KB, 下载次数: 826)

QQ截图20170324140030.png
举报 使用道具
5#
Fuller 管理员 发表于 2017-3-24 22:21:30 | 只看该作者
wevolution 发表于 2017-3-24 14:09
我试过了这个DIV的id值确实是唯一的,但是为啥还是不行,爬数据的时候还是会跑完整个网页,但是我定位标 ...

你说的跑完一页是什么意思?是不是你看到滚屏到底花了很长时间?

是否滚屏受你设置的参数控制,可以不滚屏,但是很多网页需要滚屏才能加载。
举报 使用道具
6#
wevolution 高级会员 发表于 2017-3-26 09:29:47 | 只看该作者
跑完一页,就是我从上到下跑完了一整个网页,我要采集的信息在最上面,所以我要设置定位标志来限定采集范围。
举报 使用道具
7#
Fuller 管理员 发表于 2017-3-26 10:03:56 | 只看该作者
wevolution 发表于 2017-3-26 09:29
跑完一页,就是我从上到下跑完了一整个网页,我要采集的信息在最上面,所以我要设置定位标志来限定采集范围 ...

把滚屏功能关闭就行,DS打数机菜单 配置-》滚屏参数,把滚屏次数设置成0
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-5-2 23:13