《Spark核心技术与高级应用》—

《Spark核心技术与高级应用》——导读

2017-05-01 698

本节书摘来自华章社区《Spark核心技术与高级应用》一书中的目录，作者于俊　向海　代其锋　马海平，更多章节内容可以访问云栖社区“华章社区”公众号查看

f57e8ba74c1787c075ae14aa4a3db88b07f17cc4

目　　录

前　言
基　础　篇
第1章　Spark简介
 1.1　什么是Spark
1.2　Spark的重要扩展
 1.3　本章小结
 第2章　Spark部署和运行
 2.1　部署准备
 2.2　Spark部署
 2.3　运行Spark应用程序
 2.4　本章小结
 第3章　Spark程序开发
 3.1　使用Spark Shell编写程序
 3.2　构建Spark的开发环境
 3.3　独立应用程序编程
 3.4　本章小结
第4章　编程模型
4.1　RDD介绍
4.2　创建RDD
4.3　RDD操作
4.4　共享变量
4.5　本章小结
第5章　作业执行解析
5.1　基本概念
5.2　作业执行流程
5.3　运行时环境
5.4

微信关注我们

原文链接：https://yq.aliyun.com/articles/108498

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

数据科学中“专业化”意味着什么

我作为一个数据科学家的经历跟我在书本和博客上所读到的根本不一样。我曾读到过为数字超级新星公司工作的数据科学家，他们听上去像是英雄，可以写出自动化（近乎有感知能力的）算法并不断地大量获取认知结果。我也读到过像百战天龙那样的数据科学家黑客，他们可以通过将他们周围有的任意原始材料拼凑出数据产品来拯救世界。我的团队创建的数据产品并没有重要到可以评价大型的企业级基础设施。只是我觉得，投资超高效的自动化以及产品控制是不值得的。另一方面，我们的数据产品影响了企业中的重要决策，并且我们的努力是可测量，这一点十分重要。我们负担不起总是将所有的事情人为来做，但我们也需要高效的方法来为成千上万的人们共享结果。现实中大部分还是 “常规”的数据科学家。我们比黑客们更有组织但是并不需要一个超级英雄般的数据科学老巢。我们一组人聚在一起进行思维碰撞，我们在此对

2017-05-02

609

3.2　整体视图的方法正如上一节讨论的，本节我们将选择分析的方法或模型（方程）来完成从商业实例到机器学习方法的映射。要评估影响销售团队成功的不同因素，我们有很多方法可以使用。作为例子，我们选择易于解释和在Spark上易于实现的三个模型：（a）回归模型，（b）结构方程模型和（c）决策树。选择好分析方法或模型后，我们需要准备因变量和编程。后续几节将详细介绍。 3.2.1　回归模型为了在Spark上使用回归模型，我们需要关注以下3点：线性回归或是逻辑回归回归方法是最成熟和最广泛使用的模型，主要用于表示不同变量对一个因变量的影响。使用线性回归方法还是逻辑回归方法主要取决于变量间的关系是线性还是非线性。这里，我们对变量间的关系不是很确定，因此将使用两个方法，根据他们的结果来选择部署哪个。准备因变量为了使用逻辑回归方法，我们需要通过中值法对目标

2017-05-02

631

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

《Spark核心技术与高级应用》——导读