《Spark大数据分析实战》——3.3节GraphX-低调大师

《Spark大数据分析实战》——3.3节GraphX

2017-05-01 604

本节书摘来自华章社区《Spark大数据分析实战》一书中的第3章，第3.3节GraphX，作者高彦杰　倪亚宇，更多章节内容可以访问云栖社区“华章社区”公众号查看

3.3　GraphX
GraphX是Spark中的一个重要子项目，它利用Spark作为计算引擎，实现了大规模图计算的功能，并提供了类似Pregel的编程接口。GraphX的出现，将Spark生态系统变得更加完善和丰富；同时以其与Spark生态系统其他组件很好的融合，以及强大的图数据处理能力，在工业界得到了广泛的应用。本章主要介绍GraphX的架构、原理和使用方式。
3.3.1　GraphX简介
GraphX是常用图算法在Spark上的并行化实现，同时提供了丰富的API接口。图算法是很多复杂机器学习算法的基础，在单机环境下有很多应用案例。在大数据环境下，图的规模大到一定程度后，单机很

微信关注我们

原文链接：https://yq.aliyun.com/articles/108591

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Hadoop MapReduce实战手册》一第2章 HDFS进阶

本节书摘来异步社区《Hadoop MapReduce实战手册》一书中的第2章，第2.1节，作者：【美】Srinath Perera , Thilina Gunarathne 译者：杨卓荦责编：杨海玲，更多章节内容可以访问云栖社区“异步社区”公众号查看。第2章 HDFS进阶 Hadoop MapReduce实战手册本章将学习以下内容： HDFS基准测试添加一个新的DataNode DataNode下架使用多个磁盘/卷以及限制HDFS的磁盘使用设置HDFS块大小设置文件的冗余因子使用HDFS的Java API 使用HDFS的C API（libhdfs）挂载HDFS（Fuse-DFS）在HDFS中合并文件

2017-05-02

661

本文翻译自《Getting Started With Storm》译者：吴京润编辑：方腾飞在这一章，你将学到如何在同一个Storm拓扑结构内的不同组件之间传递元组，以及如何向一个运行中的Storm集群发布一个拓扑。数据流组设计一个拓扑时，你要做的最重要的事情之一就是定义如何在各组件之间交换数据（数据流是如何被bolts消费的）。一个数据流组指定了每个bolt会消费哪些数据流，以及如何消费它们。 NOTE：一个节点能够发布一个以上的数据流，一个数据流组允许我们选择接收哪个。数据流组在定义拓扑时设置，就像我们在第二章看到的： ··· builder.setBolt("word-normalizer", new WordNormalizer()) .shuffleGrouping("word-reader"); ··· 在前面的代码块里，一个bolt由TopologyBuilder对象设定，然后使用随机数据流组指定数据源。数据流组通常将数据源组件的ID作为参数，取决于数据流组的类型不同还有其它可选参数。 NOTE：每个InputDeclarer可以有一个以上的数据源，而且每个数据...

2017-05-02

564

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。