开源大数据周刊-第11期-低调大师

开源大数据周刊-第11期

2016-06-26 692 89

阿里云E-Mapreduce动态

E-Mapreduce团队

1.3.3版本 (已经发布)

商业化发布，用户无需申请即可使用E-MapReduce服务

1.3.4版本 (正在研发)

升级jdk到1.8
升级Hadoop到2.7.2
添加python2.7.1及python3.4版本
添加numpy库
支持Presto、phoenix、jstorm、oozie
支持Hadoop跟Hbase混合部署
支持深圳、上海机房

1.4版本（正在研发）:

用户执行计划及集群运行状态自定义报警

1.4.1版本

集群整体运行情况的仪表盘
集群状态监控报警

资讯

专访阿里云资深总监李津：论开源战略、安全服务和运维行业的变化
阿里云资深总监李津表示，开源有四个阶段：拥抱开源、回馈开源、融合开源、回报开源
对业务和用户的理解，是数据挖掘“皇冠上的明珠”
随着大数据技术的不断发展，数据辅助决策这件

微信关注我们

原文链接：https://yq.aliyun.com/articles/55993

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

HBase作为存储方案

HBase存储特点 * Client 1. 包含访问HBase的接口，并维护cache来加快对HBase的访问，比如region的位置信息。 * Zookeeper： 1. 选举集群中的Master，Master与RegionServers 启动时会向ZooKeeper注册。 2. 存储所有Region的寻址入口。 3. 实时监控Region server状态并实时通知Master。 4. 存储HBase的schema和table元数据。 5. 使Master不存在单点故障。 * Master 1. 在Region Split后，为Region server分配region。 2. 管理HRegionServer的负载均衡，调整Region分布。 3. 发现失效的Region server后重新分配其上的region，并负责Regions迁移。。 4. 管理用户对table的增删改查操作。 * Region Server 1. Regionserver维护region，处理对这些region的IO请求，向HDFS文件系统读写数据。 2. Regionserver负责切分在运行过程中变得...

512

E-MapReduce集群支持预装Phoenix

E-MapReduce在emr-2.0.0版本开始，在集群中会集成进phoenix-4.7.0，用户在创建集群的软件列表中需要勾选HBase，集群创建后即可使用phoenix。创建集群 Phoenix使用HBase作为底层存储，所以创建集群时需要勾选HBase软件，如下：集群空闲后，可以从集群的详情页面查看Zookeeper节点，如下： phoenix使用上面Zookeeper节点进行相关操作。 Phoenix使用示例 1.示例一执行: sudo su hadoop performance.py localhost 1000 输出(截取部分): CSV Upsert complete. 1000 rows upserted Time: 1.298 sec(s) COUNT(1)

652

资源下载

更多资源

优质分享Android(本站安卓app)

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Eclipse（集成开发环境）

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言，它只是一个框架和一组服务，用于通过插件组件构建开发环境。幸运的是，Eclipse 附带了一个标准的插件集，包括Java开发工具（Java Development Kit，JDK）。

Java Development Kit(Java开发工具)

JDK是 Java 语言的软件开发工具包，主要用于移动设备、嵌入式设备上的java应用程序。JDK是整个java开发的核心，它包含了JAVA的运行环境（JVM+Java系统类库）和JAVA工具。

Sublime Text 一个代码编辑器

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。