页面部分内容与在浏览器打开的不同,如浏览器中知乎登陆后才有显示浏览数,但导入网址后就没有这一部分。
举报 使用道具
| 回复

共 3 个关于本帖的回复 最后回复于 2016-10-17 18:21

沙发
shenzhenwan10 金牌会员 发表于 2016-10-17 18:13:33 | 只看该作者
做规则的时候使用那个显示最全内容的页面来做
爬取的时候即使部分页面内容没有也不会影响出结果
举报 使用道具
板凳
Fuller 管理员 发表于 2016-10-17 18:20:14 | 只看该作者
shenzhenwan10 发表于 2016-10-17 18:13
做规则的时候使用那个显示最全内容的页面来做
爬取的时候即使部分页面内容没有也不会影响出结果 ...

对于时有时无的抓取内容,千万不要设置“关键内容”,否则遇到没有内容的网页就会失败。
举报 使用道具
地板
Fuller 管理员 发表于 2016-10-17 18:21:40 | 只看该作者
不用担心登录前和登录后的区别问题。在运行爬虫之前,先在浏览器中登录好,如果用的是火狐插件版,那么在火狐浏览器中登录好;如果用的是GS爬虫浏览器版,那么就在GS浏览器中登录好。然后在运行爬虫,那么登录状态就会一直保持
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-5-2 09:13