其他的目录不采集
举报 使用道具
| 回复

共 5 个关于本帖的回复 最后回复于 2016-11-11 10:24

沙发
Fuller 管理员 发表于 2016-11-11 10:20:12 | 只看该作者
样式线索可以解决这个问题。这个目录下的网址是怎么得到的?
举报 使用道具
板凳
gooseeker_info 金牌会员 发表于 2016-11-11 10:21:30 | 只看该作者
我提供这个目录下的一个网址,是不是可以把这个目录下的所有内容都爬取了啊

是动态的可以采集吗?动态网址
举报 使用道具
地板
Fuller 管理员 发表于 2016-11-11 10:23:36 | 只看该作者
网络爬虫首先要找到网址,才能去这个网址爬。找的时候可以把某个目录下的网址过滤出来。但是前提一定要在某个地方能找到你想爬的网址

爬虫是一层层爬的。逐层深入。如果你能直接构造出来网址,也行,直接导入。

你只提供一个目录网址?现在很多网站不允许访问目录,如果能访问就可以
举报 使用道具
5#
gooseeker_info 金牌会员 发表于 2016-11-11 10:24:09 | 只看该作者
内容都可以访问,只是都是动态网址
举报 使用道具
6#
Fuller 管理员 发表于 2016-11-11 10:24:45 | 只看该作者
动态没有问题
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-4-28 19:38