Step by step，学习EMR集群的fair类型资源池

2018-03-12 656

集群越大，跑的业务越多，越需要资源池管理。资源调度是yarn的核心。

EMR现在支持在业务视角操作yarn资源池了，资源池文档介绍了如何使用。

企业用户往往会选择使用fair调度类型的资源池。本文以一家大数据分析公司业务发展为故事背景，一步步的介绍如何使用fair调度。fair调度详细参数信息可参见官方文档

一个数据分析师

公司刚开始，业务团队只有小明一个数据分析师。一个人用整个集群，默认资源池配置即可。随便跑作业，随便杀作业。

三个数据分析师

公司发展，业务团队小明，张华，李萍三个数据分析师了。还用默认资源池不分队列，一个人把资源用满其他人就用不了了。杀作业很容易杀掉别人的作业，互相影响，出了问题无法定位。

于是采用三个人均分资源策略，创建三个资源池，只设置名字和权重1，管理访问控制的用户名。放置策略采用用户名为队列。gateway上建了三个

微信关注我们

原文链接：https://yq.aliyun.com/articles/536981

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

hiveserver2连接报错： User: root is not allowed to impersonate anonymous (s...

欢迎关注大数据和人工智能技术文章发布的微信公众号：清研学堂，在这里你可以学到夜白（作者笔名）精心整理的笔记，让我们每天进步一点点，让优秀成为一种习惯！使用HiveServer2运行时，启动好HiveServer后运行 private static String url = "jdbc:hive2://192.168.213.132:10000/default"; 连接hiveserver2时出现 java.lang.RuntimeException: org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.security.authorize.AuthorizationException): User root is not allowed to impersonate anonymous错误。修改hadoop 配置文件 etc/hadoop/core-site.xml,加入如下配置项 <property> <name>hadoop.proxyuser.root.hosts</name>...

2018-03-13

627

mysql刷Hive建表语句

代码实例 SELECT table_schema ,table_name ,( CASE WHEN ORDINAL_POSITION = mincol AND ORDINAL_POSITION < maxcol THEN CONCAT ( "create table if not exists " ,table_schema ,"." ,table_name ,"(`" ,column_name ,"` string," ) WHEN ORDINAL_POSITION = mincol AND ORDINAL_POSITION = maxcol THEN CONCAT ( "create table if not exists " ,table_schema ,"." ,table_name ,"(`" ,column_name ,"` string) row format DELIMITED FIELDS terminated by '\001' stored as textfile location 'ZZZZZZZ/JOB_ANALYZE_LOG';" ) WHEN ORD...

2018-03-14

682

资源下载

更多资源

优质分享Android(本站安卓app)

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario，低调大师唯一一个Java游戏作品

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Oracle Database，又名Oracle RDBMS

Oracle Database，又名Oracle RDBMS，或简称Oracle。是甲骨文公司的一款关系数据库管理系统。它是在数据库领域一直处于领先地位的产品。可以说Oracle数据库系统是目前世界上流行的关系数据库管理系统，系统可移植性好、使用方便、功能强，适用于各类大、中、小、微机环境。它是一种高效率、可靠性好的、适应高吞吐量的数据库方案。

Eclipse（集成开发环境）

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。