云上Hadoop之部署结构-低调大师

云上Hadoop之部署结构

2018-11-04 706

云上Hadoop的部署结构

在云上部署Hadoop是比较灵活的，可以根据不同的业务目标部署Hadoop集群，笔者总结了在云上的大体部署结构。

经典模式

传统的部署模式如上，线下的机器比较固定，所以一般的节点上会部署Datanode、NodeManager节点。

经典模式2

一般把节点分为：Master Node、Core Node、Task Node。这么部署结构相对灵活，也就是Task Node就部署NodeManager。如果需要添加计算能力，就添加Task Node。且因为Task Node无状态，在缩小集群时也相对简单。（这样就避免了在线下经常出现的，计算与存储不匹配的问题，导致资源浪费）

存储计算分离

在此模式下，数据放在OSS中，可以启动Hadoop集群分析数据。这种模式最大的好处就是Hadoop集群可以用完就释放掉，最大节约成本

微信关注我们

原文链接：https://yq.aliyun.com/articles/664948

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

云上Hadoop之挑战

引言在云上云行Hadoop，很多人担心性能。因为一提到虚拟化就会有人想到有成本，往往得出有偏见的结论-在云上运行肯定比物理机器上运行性能差。如果单独把10台物理机虚拟化跑Hadoop，这肯定是有部分性能的开销的。但是如果在公共云上，情况就不是这样了。因为公共云虚拟化的开销最终是由平台方来承担的，其一是平台方采购机器有规模优势，其二平台方可以在保证虚拟机性能的情况超卖部分资源。平台卖给用户8core32g的虚拟机就保证有这个规格的能力的。结合云上的弹性优势，企业的总体成本是会下降的。在云上运行Hadoop对平台方还是面临一些挑战的，下面主要讲述这些挑战及平台方怎么解决的。云上Hadoop的挑战-Shuffle Shuffle分为Push模式，Pull模式。Push模式就是直接通过网络发送到下一个节点，比如：storm、flink。

2018-11-04

772

错误提示 elasticsearch result window is too large from + size must be less than or equal to 10000 原因 Elasticsearch 默认返回集在10000条以内。解决办法如果需要更多的返回值，有2种办法：调整max_result_window，好处是沿用现有的访问方式， repository 和pageable都正常使用，弊端是其实不是官方推荐的方式，会影响速度，带来过大内存消耗。 curl -XPUT "http://localhost:9200/my_index/_settings" -d '{ "index" : { "max_result_window" : 500000 } }' 采用 Scan And Scroll For Big Result Set 英文手册原文重点是Spring的手册并没有更新，只是代码更新了，3.1里面提到的方法elasticsearchTemplate.scan(searchQuery,1000,false) API里面根本不支持。为此，我从gi...

2018-11-04

674

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。