海量吞吐的实时NoSQL—HBase的七剑和20151111圣战(数据脱敏版)-低调大师

海量吞吐的实时NoSQL—HBase的七剑和20151111圣战(数据脱敏版)

2016-05-16 678

2015年11月11日，作为媒体大屏(dataV)、消费记录、支付宝风控、物流详情、库存对账核心数据库的集团HBase，当天稳定运行，顺利完成了任务。并交出了非常漂亮的几项数据： QPS=1993W，TPS=3656W，读流量=56GBps，写流量=40.6GBps，全天吞吐读2.0PB，写1.28PB。

　　由于HBase团队的组织架构变动，使得今年2015双11的备战重责落在了几杆稚嫩的小枪身上了，不是双11运维、开发新人就是应届毕业生。备战过程的『点』，若从DB集群老核心业务整合开始算起，战役从今年5月就打响了第一枪。备战过程的『面』，涉及支付宝、安全部、菜鸟、天猫、淘宝技术部、共享业务事业部、航旅、阿里云等几乎所有BU。今年我想从HBase系统层面和业务层面两个大方向谈谈整个备战过程，对整个2015年进行一次较为全面的总结。

　

微信关注我们

原文链接：https://yq.aliyun.com/articles/46936

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

优化Hadoop Balancer运行速度

1.修改dfs.datanode.max.transfer.threads = 4096 (如果运行hbase的话建议为16384)，指定用于在DataNode间传输block数据的最大线程数，老版本的对应参数为dfs.datanode.max.xcievers 2.修改dfs.datanode.balance.bandwidthPerSec =52428800，指定DataNode用于balancer的带宽为50MB，这个示情况而定，如果交换机性能好点的，完全可以设定为100MB，单位是Byte，如果机器的网卡和交换机的带宽有限，可以适当降低该速度，默认是1048576(1MB) 3.修改dfs.datanode.balance.max.concurrent.moves = 50，指定DataNode上同时用于balance待移动block的最大线程个数，这个值默认是5 如果配置没生效或者不合理的话，Balancer会有如下警告信息： 16/05/17 11:54:59 WARN balancer.Dispatcher: Failed to move blk_10753...

2016-05-17

704

从决定做袋鼠云的那一天，我就在思考，做为一家云计算和大数据的技术服务公司，做什么样的产品能给客户提供价值？从2012年开始，我一直在做一个移动日志分析产品，类似于友盟和TalkingData，不过因为各种原因，这个产品主要为阿里集团内部的各个App提供服务，基本上成为了集团内部标配的工具，每天处理日志量超过1000亿条，顺利渡过了几次双十一大屏的大考，在稳定性和数据准确性方面都经受了挑战。但除了数据量和电商业务中的交易链路跟踪和转化率的变态需求之外，移动日志分析从某种意义上来说还是简单的，因为日志数据的格式是预定义的，并且标准也由我们团队来制定。控制了源头，后续整个流动过程处理起来就相对容易。 2015年开始，我们也为阿里云的部分客户提供移动分析服务，经常碰到的一个问题就是，除了App，还有PC网页能一起分析么？说实话，这是一个合理的需求，所以今年友盟、CNZZ和缔元信的合并，变成友盟＋，是一个非常自然的演进，但要真正做到跨屏数据的融合分析，就不是那么容易的事情了。那么，除了移动App日志，PC Web日志，还有各种其他的日志，比如Linux的登录日志、Web服务器的Access...

2016-05-18

609

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。