《Hadoop大数据分析与挖掘实战》——2.3节Hadoop原理-低调大师

《Hadoop大数据分析与挖掘实战》——2.3节Hadoop原理

2017-05-01 563

本节书摘来自华章社区《Hadoop大数据分析与挖掘实战》一书中的第2章，第2.3节Hadoop原理，作者张良均　樊哲　赵云龙　李成华　，更多章节内容可以访问云栖社区“华章社区”公众号查看

2.3　Hadoop原理
2.3.1　Hadoop HDFS原理
Hadoop分布式文件系统(HDFS)被设计成适合运行在通用硬件(commodity hardware)上的分布式文件系统。它和现有的分布式文件系统有很多共同点，同时，它和其他的分布式文件系统的区别也是很明显的。HDFS是一个高度容错性的系统，适合部署在廉价的机器上。HDFS能提供高吞吐量的数据访问，非常适合大规模数据集上的应用。HDFS放宽了一部分POSIX约束，来实现流式读取文件系统数据的目的。HDFS最开始是作为Apache Nutch搜索引擎项目的基础架构而开发的，HDFS是Ap

微信关注我们

原文链接：https://yq.aliyun.com/articles/108760

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《深入理解Spark:核心思想与源码分析》——3.1节SparkContext概述

本节书摘来自华章社区《深入理解Spark:核心思想与源码分析》一书中的第3章，第3.1节SparkContext概述，作者耿嘉安，更多章节内容可以访问云栖社区“华章社区”公众号查看 3.1　SparkContext概述Spark Driver用于提交用户应用程序，实际可以看作Spark的客户端。了解Spark Driver的初始化，有助于读者理解用户应用程序在客户端的处理过程。Spark Driver的初始化始终围绕着SparkContext的初始化。SparkContext可以算得上是所有Spark应用程序的发动机引擎，轿车要想跑起来，发动机首先要启动。SparkContext初始化完毕，才能向Spark集群提交任务。在平坦的公路上，发动机只需以较低的转速、较低的功率就可以游刃有余；在山区，你可能需要一台能够提供大功率的发动机才能满足你的需求。这些参数都是通过驾驶员操作油门、档位等传送给发动机的，而SparkContext的配置参数则由SparkConf负责，SparkConf就是你的操作面板。SparkConf的构造很简单，主要是通过ConcurrentHashMap来维护各种Sp...

2017-05-02

420

本节书摘来自华章社区《Hadoop大数据分析与挖掘实战》一书中的第2章，第2.4节动手实践，作者张良均　樊哲　赵云龙　李成华　，更多章节内容可以访问云栖社区“华章社区”公众号查看 2.4　动手实践按照2.2节的详细配置步骤进行操作，部署完成后即可进行下面的实验。实践一：HDFS命令 1）新建文件夹。hadoop fs -mkdir /user hadoop fs -mkdir /user/root2）查看文件夹权限。# hadoop fs -ls -d /user/root drwxr-xr-x　 - root supergroup　0 2015-05-29 17:29 /user/root3）上传文件。复制02-上机实验/ds.txt并通过xftp上传到客户端机器，运行下面的命令和结果对照。# hadoop fs -put

2017-05-02

672

资源下载

更多资源

Oracle

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Apache Tomcat

Tomcat是Apache 软件基金会（Apache Software Foundation）的Jakarta 项目中的一个核心项目，由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定，而且免费，因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可，成为目前比较流行的Web 应用服务器。

Eclipse

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。

JDK

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。