GooSeeker

MetaStudio在层级抓取方面提供了一些便利方法。层级抓取是网络爬虫从深度方面扩展爬行范围的手段，比如，先抓取新闻网站的新闻列表，主要目的是得到每条新闻的网址，然后深入下去抓取每条新闻的详细内容。深入抓取的层次数量可以无限多，用户需要用MetaStudio给每一层定义抓取规则。

在建设商品比价系统或者监测网络商城商品价格时，需要及时地采集最新的商品价格，尤其做价格监测竞争情报系统时，监测的频度要求很高。网站信息采集软件工具包MetaSeeker以精准采集著称，很适合做竞争情报采集系统，因此多个企业用户采用MetaSeeker建设商品比价和价格监测系统。

目前，大型博客一般都采用大量的AJAX技术，例如，展现博客评论时，用Javascript代码异步加载；又如，博文的点击数和回复数等元数据一般也用Javascript异步加载。页面抓取软件MetaSeeker具有很强的AJAX内容抓取能力，可以处理很多复杂情况，然而，MetaSeeker的可选配置项也很多，一时难于全面掌握。在此，我们讲解一个抓取腾讯博客内容的实例，展示怎样抓取AJAX异步加载的博文点击数。

网站数据抓取软件MetaSeeker的设计理念跟其它网络爬虫有些不同，其中一个比较显著的区别是MetaSeeker将抓取到的某些网页地址URL永久保存，而且可以对其进行一些操作，例如，开放给在线版用户的操作有线索激活和去活，还可以使用周期性抓取指令重建线索。

网页跳转基本上可以分成两种情形

• 利用HTTP消息的返回码和新网页地址进行跳转
• 在目标网页HTML中实现跳转。

Web页面信息抓取软件工具包MetaSeeker并不关心哪种跳转方式，都能进行信息抓取。但是，跳转后网页URL实际上已经改变了，在操作MetaStudio时需要注意几点。

假设需要采集京东商城网站上的所有手机产品的信息，包括：商品名、价格、商品图片（MetaSeeker只采集图片网址）等信息。例如，样本网页：http://www.360buy.com/products/652-653-655-0-0-0-0-0-0-0-1-1-1.html。

当前，一些大型社会性媒体（social media）网站（例如，博客、论坛、社交网）大量采用AJAX/Javascript，网页内容动态生成，而且同一个网页上的内容从多个信息源获得，这给网页信息抓取造成了障碍。下面以抓取新浪评论为例讲解怎样使用MetaSeeker抓取Ajax动态内容。现在，很多网站的新闻文章都允许评论，例如，新浪、搜狐、凤凰网等等，下面介绍的方法适用于其它类似网站。

商业舆情监控平台SliceProfile实现了语句级观点分类和倾向性分析。实现观点分类的前提是建立观点词典。

观点词也叫极性词或情感词，英文可以是polar word, sentiment word, opinion word，在英语里面，极性词可以分成两类

Web文档抓取工具包MetaSeeker能够自动生成抓取规则，帮助用户大批量自动抓取Web文档，MetaSeeker核心数据存储和交换格式是XML，例如，信息结构元数据、Web文档抓取指令文件、抓取结果文件等等。

随着网络数据抽取软件工具包MetaSeeker的版本不断更新，AJAX数据抽取能力不断增强，本文讲解的技巧适合MetaSeeker V4.11.0及其以后版本。主要解决的问题是：假设当前网页P1上面有超链接，点击后网页内容修改，但是没有通过HTTP加载一个HTML网页文档，而是通过AJAX的异步通信机制，例如，采用XMLHttpRequest类接口，从服务器下载内容并局部更改网页内容。此时显示的网页数据的语义同P1网页的不同，我们称此网页为P2。