Blogs

使用Java实现的网页内容抓取和数据抽取工具

  • 简洁轻便的Java浏览器HtmlUnit 2.6发布介绍了HtmlUnit,这是一个用Java编写的网站测试工具,是一个开源项目,网站测试工具一般通过模拟用户的点击网页的行为测试某个网站的所有网页是否正确、是否可访问等,因此同样的工具可以用于执行网站信息提取和网页数据抽取任务,而且网站测试工具一般能够很好的解析Javascript代码,所以很适合采集A

使用Ruby实现网页抓取和数据抽取

使用Javascript实现网页抓取和数据抽取

搜索引擎优化(SEO)

有自己的网站的人都关注搜索引擎优化(SEO),都想让自己的网站有最好的曝光率,搜索引擎优化专家能够给予很好的指导,而且在一些博客和论坛上,搜索引擎优化专家的文章也很受欢迎,每次浏览博客文章,我都会特意阅读新的相关文章,阅读的多了,发现不同专家的观点可能存在不一致。

从语义网络向结构化数据回归

RWW最新文章Top 5 Web Trends of 2009: Structured Data将结构化数据(structured data)放在最前面讨论,虽然没有排序的意味,但是至少说明当人们思考新技术潮流时结构化数据首先出现在头脑中。

我在一系列文章中讨论了结构化数据(structured data)和结构化数据互联(linked data)及其与语义网络(semantic web)的关系,例如:

Century 21 Canada vs. Rogers Communications——涉及网站内容采集和数据抽取的诉讼

Century 21 Canada Sues Rogers Communications' Real Estate Site Over 'Data Scraping'是今天海外媒体和社会性媒体讨论的热点,一个比较详细的分析报道Rogers cited for 'scraping' listings可以看出是两个巨头之间的搏斗,诉“不公平竞争”,因为被告网站Zoocasa通过采集原告网站上的图片和房产介绍信息,认为被告网站获得了不公平的竞争优势(an unfair competitive advantage)并侵犯了著作权(copyright)

实时互联网(real-time web)是一种新的通信方式

Twitter的流行推动了实时互联网(real-time web)浪潮,实时互联网到底是什么,文章The Real-Time Web: A Primer从多个方面剖析了实时互联网的意义。下面针对针对作者提出的“实时互联网是一种新的通信方式”进行思考和研究。

网页抓取/数据抽取/网络爬虫软件工具

  • email采集工具 Email Scraper
    • 功能描述:是一个PHP类库,能够爬行互联网(网络爬虫功能)抓取网页并且将电子邮件email地址抽取出来,并且将采集到的e-mail地址保存到MySQL数据库中。
    • 网络爬虫功能:给定一个开始页面,该网络蜘蛛顺着页面上所有的超链接爬行到其它网页,可以设定特定的文件名后缀,让该网络蜘蛛不用抓取。

对垂直搜索的展望

准确的说不是本人的展望,是读The Future of Vertical Search Engines的感想。

使用Flex技术实现网站内容抓取和数据抽取

Syndicate content