《深入理解Hadoop（原书第2版）》——1.3大数据的编程模型-低调大师

《深入理解Hadoop（原书第2版）》——1.3大数据的编程模型

2017-05-01 573

本节书摘来自华章计算机《深入理解Hadoop（原书第2版）》一书中的第1章，第1.3节，作者 [美]萨米尔·瓦德卡（Sameer Wadkar），马杜·西德林埃（Madhu Siddalingaiah），杰森·文纳（Jason Venner），译于博，冯傲风，更多章节内容可以访问云栖社区“华章计算机”公众号查看。

1.3大数据的编程模型

大数据的编程模型主要有以下几种类型：

大规模并行处理（Massively Parallel Processing，MPP）数据库系统：EMC公司的Greenplum系统和IBM公司的Netezza系统就是这样的系统。
内存数据库系统：Oracle公司的Exalytics和SAP公司的HANA正是此类系统。
MapReduce系统：这样的系统包括所有大数据系统中最广泛使用的Hadoop。
整体同步并行（Bul

微信关注我们

原文链接：https://yq.aliyun.com/articles/109063

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

《Hadoop技术详解》一2.5　管理文件系统元数据

本节书摘来异步社区《Hadoop技术详解》一书中的第2章，第2.5节，作者：【美】Eric Sammer 译者：刘敏 , 麦耀锋 , 李冀蕾 , 等，更多章节内容可以访问云栖社区“异步社区”公众号查看。 2.5　管理文件系统元数据 NameNode将文件系统的元数据以不同的文件保存在本地磁盘中，其中最重要的两个文件是fsimage和edits。和数据库一样，fsimage包含文件系统元数据的完整快照，而edits仅包含元数据的增量修改。对高吞吐率的数据存储而言，一个常用方法是使用预写日志（WAL），如edits文件，实现顺序增加操作来减少I/O操作（在NameNode中，所有操作都在RAM中完成），从而避免高消耗的查找操作，获取更好的整体性能。NameNode启动后，直接加载fsimage到RAM，再通过回放引入edits的增量变化，最终在内存中建立拥有最新信息的文件系统视图。在Hadoop较新的几个版本中（具体地说，就是Apache Hadoop 2.0和CDH4；有关Hadoop更多版本信息，请参见4.1节“挑选Hadoop的发行版本”），底层元数据的存储拥有更好的可恢复性和...

2017-05-02

500

本节书摘来异步社区《Hadoop技术详解》一书中的第2章，第2.6节，作者：【美】Eric Sammer 译者：刘敏 , 麦耀锋 , 李冀蕾 , 等，更多章节内容可以访问云栖社区“异步社区”公众号查看。 2.6　NameNode的高可用性因为管理员的主要职责是确保大规模系统的服务质量和可用性，单点故障（single point of failure）可能会给我们带来麻烦，甚至带来非常糟糕的后果。不幸的是，长期以来，HDFS的NameNode就是困扰我们的单点故障问题。近来，Hadoop社区投入大量的人力来提升NameNode的高可用性，使Hadoop可以在更多重要应用场景下部署。 NameNode 高可用性（或称HA）是通过部署一对主/备NameNode的方式来实现的。主/备NameNode都需要能访问到edits的WAL，因此edits通常保存在一个共享的存储设备上。目前，是用NFS文件系统实现这种共享存储的，当然消除对NFS的依赖也已经在计划当中[2]。当主NameNode写入edits日志时，备用NameNode会即时重放事务以确保数据的完全同步，并在主NameNode发生...

2017-05-02

667

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。