您现在的位置是:首页 > 文章详情

Ferret — Go 语言实现的声明式 Web 爬虫系统

日期:2018-10-10点击:647

Ferret 是一个声明式的 Web 爬虫系统,旨在简化网络上的数据提取,以用于 UI 测试、机器学习和分析等等。

Ferret 拥有自己的声明式语言,通过抽象出技术细节和底层技术的复杂性,从而更专注于数据本身。

特性

  • 声明式语言

  • 支持静态和动态 web 页面

  • 嵌入式

  • 可扩展

示例

LET google = DOCUMENT("https://www.google.com/", true) INPUT(google, 'input[name="q"]', "ferret", 25) CLICK(google, 'input[name="btnK"]') WAIT_NAVIGATION(google) FOR result IN ELEMENTS(google, '.g') // filter out extra elements like videos and 'People also ask' FILTER TRIM(result.attributes.class) == 'g' RETURN { title: INNER_TEXT(result, 'h3'), description: INNER_TEXT(result, '.st'), url: INNER_TEXT(result, 'cite') }

本文来自云栖社区合作伙伴“开源中国”

本文作者:局长

原文链接

原文链接:https://yq.aliyun.com/articles/650994
关注公众号

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。

持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。

文章评论

共有0条评论来说两句吧...

文章二维码

扫描即可查看该文章

点击排行

推荐阅读

最新文章