Step by step，学习EMR集群的fair类型资源池

2018-03-12 664

集群越大，跑的业务越多，越需要资源池管理。资源调度是yarn的核心。

EMR现在支持在业务视角操作yarn资源池了，资源池文档介绍了如何使用。

企业用户往往会选择使用fair调度类型的资源池。本文以一家大数据分析公司业务发展为故事背景，一步步的介绍如何使用fair调度。fair调度详细参数信息可参见官方文档

一个数据分析师

公司刚开始，业务团队只有小明一个数据分析师。一个人用整个集群，默认资源池配置即可。随便跑作业，随便杀作业。

三个数据分析师

公司发展，业务团队小明，张华，李萍三个数据分析师了。还用默认资源池不分队列，一个人把资源用满其他人就用不了了。杀作业很容易杀掉别人的作业，互相影响，出了问题无法定位。

于是采用三个人均分资源策略，创建三个资源池，只设置名字和权重1，管理访问控制的用户名。放置策略采用用户名为队列。gateway上建了三个

微信关注我们

原文链接：https://yq.aliyun.com/articles/536981

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

hiveserver2连接报错： User: root is not allowed to impersonate anonymous (s...

欢迎关注大数据和人工智能技术文章发布的微信公众号：清研学堂，在这里你可以学到夜白（作者笔名）精心整理的笔记，让我们每天进步一点点，让优秀成为一种习惯！使用HiveServer2运行时，启动好HiveServer后运行 private static String url = "jdbc:hive2://192.168.213.132:10000/default"; 连接hiveserver2时出现 java.lang.RuntimeException: org.apache.hadoop.ipc.RemoteException(org.apache.hadoop.security.authorize.AuthorizationException): User root is not allowed to impersonate anonymous错误。修改hadoop 配置文件 etc/hadoop/core-site.xml,加入如下配置项 <property> <name>hadoop.proxyuser.root.hosts</name>...

2018-03-13

635

代码实例 SELECT table_schema ,table_name ,( CASE WHEN ORDINAL_POSITION = mincol AND ORDINAL_POSITION < maxcol THEN CONCAT ( "create table if not exists " ,table_schema ,"." ,table_name ,"(`" ,column_name ,"` string," ) WHEN ORDINAL_POSITION = mincol AND ORDINAL_POSITION = maxcol THEN CONCAT ( "create table if not exists " ,table_schema ,"." ,table_name ,"(`" ,column_name ,"` string) row format DELIMITED FIELDS terminated by '\001' stored as textfile location 'ZZZZZZZ/JOB_ANALYZE_LOG';" ) WHEN ORD...

2018-03-14

691

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

Step by step，学习EMR集群的fair类型资源池

一个数据分析师

三个数据分析师

hiveserver2连接报错： User: root is not allowed to impersonate anonymous (s...

mysql刷Hive建表语句

相关文章

发表评论

资源下载

优质分享App

Nacos

Rocky Linux

Sublime Text

欢迎您来访！