Step by step，学习EMR集群的fair类型资源池

2018-03-12 712

集群越大，跑的业务越多，越需要资源池管理。资源调度是yarn的核心。

EMR现在支持在业务视角操作yarn资源池了，资源池文档介绍了如何使用。

企业用户往往会选择使用fair调度类型的资源池。本文以一家大数据分析公司业务发展为故事背景，一步步的介绍如何使用fair调度。fair调度详细参数信息可参见官方文档

一个数据分析师

公司刚开始，业务团队只有小明一个数据分析师。一个人用整个集群，默认资源池配置即可。随便跑作业，随便杀作业。

三个数据分析师

公司发展，业务团队小明，张华，李萍三个数据分析师了。还用默认资源池不分队列，一个人把资源用满其他人就用不了了。杀作业很容易杀掉别人的作业，互相影响，出了问题无法定位。

于是采用三个人均分资源策略，创建三个资源池，只设置名字和权重1，管理访问控制的用户名。放置策略采用用户名为队列。gateway上建了三个

微信关注我们

原文链接：https://yq.aliyun.com/articles/536981

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

hiveserver2连接报错： User: root is not allowed to impersonate anonymous (s...

欢迎关注大数据和人工智能技术文章发布的微信公众号：清研学堂，在这里你可以学到夜白（作者笔名）精心整理的笔记，让我们每天进步一点点，让优秀成为一种习惯！使用HiveServer2运行时，启动好HiveServer后运行 private static String url = "jdbc:hive2://192.168.213.132:10000/default"; 连接hiveserver2时出现 java.lang.RuntimeException: org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.security.authorize.AuthorizationException): User root is not allowed to impersonate anonymous错误。修改hadoop 配置文件 etc/hadoop/core-site.xml,加入如下配置项 <property> <name>hadoop.proxyuser.root.hosts</name&gt...

2018-03-12

697

代码实例 SELECT table_schema ,table_name ,( CASE WHEN ORDINAL_POSITION = mincol AND ORDINAL_POSITION < maxcol THEN CONCAT ( "create table if not exists " ,table_schema ,"." ,table_name ,"(`" ,column_name ,"` string," ) WHEN ORDINAL_POSITION = mincol AND ORDINAL_POSITION = maxcol THEN CONCAT ( "create table if not exists " ,table_schema ,"." ,table_name ,"(`" ,column_name ,"` string) row format DELIMITED FIELDS terminated by '\001' stored as textfile location 'ZZZZZZZ/JOB_ANALYZE_LOG';" ) WHEN ORD...

2018-03-13

727

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Step by step，学习EMR集群的fair类型资源池

一个数据分析师

三个数据分析师

hiveserver2连接报错： User: root is not allowed to impersonate anonymous (s...

mysql刷Hive建表语句

相关文章

发表评论

资源下载

Mario

腾讯云软件源

Nacos

Spring

欢迎您来访！