开源大数据周刊-第11期-低调大师

开源大数据周刊-第11期

2016-06-26 707

阿里云E-Mapreduce动态

E-Mapreduce团队

1.3.3版本 (已经发布)

商业化发布，用户无需申请即可使用E-MapReduce服务

1.3.4版本 (正在研发)

升级jdk到1.8
升级Hadoop到2.7.2
添加python2.7.1及python3.4版本
添加numpy库
支持Presto、phoenix、jstorm、oozie
支持Hadoop跟Hbase混合部署
支持深圳、上海机房

1.4版本（正在研发）:

用户执行计划及集群运行状态自定义报警

1.4.1版本

集群整体运行情况的仪表盘
集群状态监控报警

资讯

专访阿里云资深总监李津：论开源战略、安全服务和运维行业的变化
阿里云资深总监李津表示，开源有四个阶段：拥抱开源、回馈开源、融合开源、回报开源
对业务和用户的理解，是数据挖掘“皇冠上的明珠”
随着大数据技术的不断发展，数据辅助决策这件

微信关注我们

原文链接：https://yq.aliyun.com/articles/55993

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

HBase作为存储方案

HBase存储特点 * Client 1. 包含访问HBase的接口，并维护cache来加快对HBase的访问，比如region的位置信息。 * Zookeeper： 1. 选举集群中的Master，Master与RegionServers 启动时会向ZooKeeper注册。 2. 存储所有Region的寻址入口。 3. 实时监控Region server状态并实时通知Master。 4. 存储HBase的schema和table元数据。 5. 使Master不存在单点故障。 * Master 1. 在Region Split后，为Region server分配region。 2. 管理HRegionServer的负载均衡，调整Region分布。 3. 发现失效的Region server后重新分配其上的region，并负责Regions迁移。。 4. 管理用户对table的增删改查操作。 * Region Server 1. Regionserver维护region，处理对这些region的IO请求，向HDFS文件系统读写数据。 2. Regionserver负责切分在运行过程中变得...

2016-06-27

530

E-MapReduce在emr-2.0.0版本开始，在集群中会集成进phoenix-4.7.0，用户在创建集群的软件列表中需要勾选HBase，集群创建后即可使用phoenix。创建集群 Phoenix使用HBase作为底层存储，所以创建集群时需要勾选HBase软件，如下：集群空闲后，可以从集群的详情页面查看Zookeeper节点，如下： phoenix使用上面Zookeeper节点进行相关操作。 Phoenix使用示例 1.示例一执行: sudo su hadoop performance.py localhost 1000 输出(截取部分): CSV Upsert complete. 1000 rows upserted Time: 1.298 sec(s) COUNT(1)

2016-06-27

672

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。