爬虫上面有屏蔽的功能吗?

举报 使用道具
| 回复

共 1 个关于本帖的回复 最后回复于 2017-9-4 10:30

沙发
yangwenge 金牌会员 发表于 2017-9-4 10:30:39 | 只看该作者
本帖最后由 yangwenge 于 2017-9-5 17:30 编辑

可以自定义xtpah
使用substring-before(str1,str2)函数,返回str1中第一个str2之前的内容。
不过有一个前提是每篇文章都有“文本来自”,否则会返回空
《xpath常用函数》
1.找到文本节点
2.选择偏好class,找到xpath

3.自定义xpath

substring-before(.//*[@class='mark_sub']/text(),'本文来自')
.//*[@class='mark_sub']/text()需要修改成自己网页对应的xpath
也可以采集完后在EXCEL中操作
1.采集完后在会员中心-规则管理--规则名--导出数据《xml转excel》 ;
2.将导出的文件解压,打开解压后的EXCEL;
3.通过替换查找功能将后“本文来自:”替换成空


举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-27 01:29