云上Hadoop之部署结构-低调大师

云上Hadoop之部署结构

2018-11-04 645

云上Hadoop的部署结构

在云上部署Hadoop是比较灵活的，可以根据不同的业务目标部署Hadoop集群，笔者总结了在云上的大体部署结构。

经典模式

传统的部署模式如上，线下的机器比较固定，所以一般的节点上会部署Datanode、NodeManager节点。

经典模式2

一般把节点分为：Master Node、Core Node、Task Node。这么部署结构相对灵活，也就是Task Node就部署NodeManager。如果需要添加计算能力，就添加Task Node。且因为Task Node无状态，在缩小集群时也相对简单。（这样就避免了在线下经常出现的，计算与存储不匹配的问题，导致资源浪费）

存储计算分离

在此模式下，数据放在OSS中，可以启动Hadoop集群分析数据。这种模式最大的好处就是Hadoop集群可以用完就释放掉，最大节约成本

微信关注我们

原文链接：https://yq.aliyun.com/articles/664948

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

云上Hadoop之挑战

引言在云上云行Hadoop，很多人担心性能。因为一提到虚拟化就会有人想到有成本，往往得出有偏见的结论-在云上运行肯定比物理机器上运行性能差。如果单独把10台物理机虚拟化跑Hadoop，这肯定是有部分性能的开销的。但是如果在公共云上，情况就不是这样了。因为公共云虚拟化的开销最终是由平台方来承担的，其一是平台方采购机器有规模优势，其二平台方可以在保证虚拟机性能的情况超卖部分资源。平台卖给用户8core32g的虚拟机就保证有这个规格的能力的。结合云上的弹性优势，企业的总体成本是会下降的。在云上运行Hadoop对平台方还是面临一些挑战的，下面主要讲述这些挑战及平台方怎么解决的。云上Hadoop的挑战-Shuffle Shuffle分为Push模式，Pull模式。Push模式就是直接通过网络发送到下一个节点，比如：storm、flink。

2018-11-05

685

错误提示 elasticsearch result window is too large from + size must be less than or equal to 10000 原因 Elasticsearch 默认返回集在10000条以内。解决办法如果需要更多的返回值，有2种办法：调整max_result_window，好处是沿用现有的访问方式， repository 和pageable都正常使用，弊端是其实不是官方推荐的方式，会影响速度，带来过大内存消耗。 curl -XPUT "http://localhost:9200/my_index/_settings" -d '{ "index" : { "max_result_window" : 500000 } }' 采用 Scan And Scroll For Big Result Set 英文手册原文重点是Spring的手册并没有更新，只是代码更新了，3.1里面提到的方法elasticsearchTemplate.scan(searchQuery,1000,false) API里面根本不支持。为此，我从gi...

2018-11-05

616

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。