《Spark核心技术与高级应用》——1.3节本章小结-低调大师

《Spark核心技术与高级应用》——1.3节本章小结

2017-05-01 594

本节书摘来自华章社区《Spark核心技术与高级应用》一书中的第1章，第1.3节本章小结，作者于俊　向海　代其锋　马海平，更多章节内容可以访问云栖社区“华章社区”公众号查看

1.3　本章小结
大数据以及相关的概念、技术是业界和学界最近关注的热点，Spark在其中扮演了非常重要的角色。本书首先对Spark大数据框架进行了简单的介绍，展示了蓬勃发展的Spark大数据相关的特点和用途，揭开了Spark整个生态环境的神秘面纱。并在此基础上，向读者介绍了基于Spark的重要扩展，包括Spark SQL和DataFrame、Spark Streaming、MLlib和ML、GraphX、SparkR，使读者对Spark能做什么有个初步的了解。

微信关注我们

原文链接：https://yq.aliyun.com/articles/108410

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《HBase管理指南》一1.7　HBase安装

本节书摘来异步社区《HBase管理指南》一书中的第1章，第1.7节，作者：蒋燚峰译者：苏南，更多章节内容可以访问云栖社区“异步社区”公众号查看。 1.7　HBase安装完全分布式运行的HBase实例要在HDFS上运行一个或多个主节点（HMaster）和多个从节点（RegionServer）。它使用一个可靠的ZooKeeper仲裁团来协调HBase集群中的所有组件，包括主节点、从节点和客户端。 HMaster并非必须与HDFS NameNode运行在同一服务器上，但对小集群来说，为了便于管理通常会让它们运行在同一台服务器上。RegionServers通常被配置在HDFS的DataNode服务器上运行。在Datanode服务器上运行RegionServer还有数据局部化（data locality）的优势。在同一台服务器上运行DataNode可使服务器拥有一份RegionServer所需数据的完整拷贝。本节将描述一个完全分布式HBase的安装。我们将在master1上安装HMaster，然后再安装三个区域服务器（slave1到slave3）。我们还要在client1上安装一个HB...

2017-05-02

538

Spark源码分析之-scheduler模块这位写的非常好, 让我对Spark的源码分析, 变的轻松了许多这里自己再梳理一遍先看一个简单的spark操作, val sc = new SparkContext(……) val textFile = sc.textFile("README.md") textFile.filter(line => line.contains("Spark")).count() 1. SparkContext 这是Spark的入口, 任何需要使用Spark的地方都需要先创建SparkContext 在SparkContext中, 最主要的初始化工作就是start TaskScheduler和DAGScheduler, 这两个就是Spark的核心所在 Spark的设计非常的干净, 把整个DAG抽象层从实际的task执行中剥离了出来 DAGScheduler, 负责解析spark命令, 生成stage, 形成DAG, 最终划分成tasks, 提交给TaskScheduler, 他只完成静态分析 TaskScheduler, 专门负责task执行, 他...

2017-05-02

571

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。