我想抓取的是这个网址http://career.huawei.com/socRecruitment/joinUs.html华为招聘信息,这个网址它是需要点击才能进入到我要的页面(发现点击后网址不变),而且在MS上输入网址直接变成英文页面,请问这样怎么解决啊?

火狐截图_2016-12-22T08-19-55.465Z.png (329.4 KB, 下载次数: 900)

火狐截图_2016-12-22T08-19-55.465Z.png
举报 使用道具
| 回复

共 16 个关于本帖的回复 最后回复于 2016-12-23 16:35

沙发
ayaya1212 初级会员 发表于 2016-12-22 16:28:44 | 只看该作者
一级页规则名是:华为招聘
二级页规则名是华为招聘具体

举报 使用道具
板凳
ym 版主 发表于 2016-12-22 16:55:21 | 只看该作者
这种没有独立网址的网页,应该在“华为招聘”前面再做一个规则,用来设置连续动作,这样运行爬虫时才可以进入到列表页面。如果是要输入关键词然后搜索的话,就要设置输入动作、点击动作两个,操作参考教程《连续动作实战:自动输入搜索条件抓取微信公众号》

举报 使用道具
地板
Fuller 管理员 发表于 2016-12-22 17:46:31 | 只看该作者
ayaya1212 发表于 2016-12-22 16:28
一级页规则名是:华为招聘
二级页规则名是华为招聘具体

第一级加载不了,是不是先要做什么动作才能后续分析?
举报 使用道具
5#
Fuller 管理员 发表于 2016-12-22 17:49:36 | 只看该作者
像@ym说的,前面应该多加一级规则,做点击动作
举报 使用道具
6#
ayaya1212 初级会员 发表于 2016-12-22 19:02:54 | 只看该作者
ym 发表于 2016-12-22 16:55
这种没有独立网址的网页,应该在“华为招聘”前面再做一个规则,用来设置连续动作,这样运行爬虫时才可以进 ...

不需要输入,只需要点击4次,有参考教程吗?
举报 使用道具
7#
ayaya1212 初级会员 发表于 2016-12-22 19:19:18 | 只看该作者
ym 发表于 2016-12-22 16:55
这种没有独立网址的网页,应该在“华为招聘”前面再做一个规则,用来设置连续动作,这样运行爬虫时才可以进 ...

这是四次点击,网页结构不同,这样可以采集结果嘛?

火狐截图_2016-12-22T11-13-08.934Z.png (564.29 KB, 下载次数: 887)

第一次和第二次

第一次和第二次

火狐截图_2016-12-22T11-14-31.822Z.png (170.09 KB, 下载次数: 930)

第三次

第三次

火狐截图_2016-12-22T11-15-28.391Z.png (369.1 KB, 下载次数: 863)

第四次

第四次
举报 使用道具
8#
Fuller 管理员 发表于 2016-12-22 20:17:33 | 只看该作者
ayaya1212 发表于 2016-12-22 19:19
这是四次点击,网页结构不同,这样可以采集结果嘛?

你用的是火狐?还是GS爬虫浏览器?我测试的时候没有看到英文界面
举报 使用道具
9#
ayaya1212 初级会员 发表于 2016-12-22 20:26:01 | 只看该作者
Fuller 发表于 2016-12-22 20:17
你用的是火狐?还是GS爬虫浏览器?我测试的时候没有看到英文界面

是GS爬虫浏览器,一打开网址就是英文的
举报 使用道具
10#
Fuller 管理员 发表于 2016-12-22 21:29:20 | 只看该作者
ayaya1212 发表于 2016-12-22 20:26
是GS爬虫浏览器,一打开网址就是英文的

就是最顶上你发的那个网址吗?我测试的都不是英文。你翻墙了?
举报 使用道具
您需要登录后才可以回帖 登录 | 立即注册

精彩推荐

  • Gephi社会网络分析-马蜂窝游记文本分词并同
  • Gephi社会网络分析-基于马蜂窝游记文本以词
  • 知乎话题文本根据词语间距筛选后生成共词矩
  • 马蜂窝游记文本分词后以词语间距为筛选条件
  • 学习使用apriori算法挖掘关联关系

热门用户

GMT+8, 2024-5-6 12:07