【Spark Summit East 2017】Sparkler：Spark上的爬虫-低调大师

【Spark Summit East 2017】Sparkler：Spark上的爬虫

2017-02-19 741

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data；此外，通过Maxcompute及其配套产品，低廉的大数据分析仅需几步，详情访问https://www.aliyun.com/product/odps。

本讲义出自Karanjeet Singh与Thamme Gowda Narayanaswamy在Spark Summit East 2017上的演讲，主要介绍了利用了分布式计算和信息检索领域的最新发展技术并且组合了像Spark, Kafka, Lucene/Solr, Tika, 和Felix等各种Apache项目的爬虫程序——Sparkler，Sparkler是一个具有高性能、高扩展性以及高性能的网络爬虫程序，并且是运行在Spark上Apache Nutch的进化。

微信关注我们

原文链接：https://yq.aliyun.com/articles/70399

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

【Spark Summit East 2017】基于Spark ML和GraphFrames的大规模文本分析管道

更多精彩内容参见云栖社区大数据频道https://yq.aliyun.com/big-data；此外，通过Maxcompute及其配套产品，低廉的大数据分析仅需几步，详情访问https://www.aliyun.com/product/odps。本讲义出自Alexey Svyatkovskiy在Spark Summit East 2017上的演讲，主要介绍了基于Spark ML和GraphFrames的大规模文本分析管道的实现，并介绍了用于的描绘直方图、计算描述性统计的跨平台的Scala数据聚合基元——Histogrammar package，并分享了非结构化数据处理、高效访问的数据存储格式以及大规模图处理等问题。

2017-02-20

676

11+大数据行业应用实践请见 https://yq.aliyun.com/activity/156 ，同时这里还有流计算、机器学习、性能调优等技术实践。此外，通过 Maxcompute及其配套产品，低廉的大数据分析仅需几步，详情访问 https://www.aliyun.com/product/odps ；更多精彩内容参见云栖社区大数据频道： https://yq.aliyun.com/big-data 。禾连健康通过为医院提供无线WIFI网络解决方案作为切入点，让医护和患者在享受高速上网服务的前提，为医护提供提升工作效率的工具，为患者提供健康服务的内容，同时作为国内领先的医院流量运营者，为医药行业提供精准营销服务。在禾连健康，大数据主要被用作在精准营销和内容服务两个部分，一方面为利用大数据做医院流量的精细化运营，另一方面利用大数据在互助问模

2017-02-20

609

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。