首页 文章 精选 留言 我的

精选列表

搜索[明星开源社区],共10000篇文章
优秀的个人博客,低调大师

9月10日 Spark 社区直播【利用持久内存提速Spark】

主题: 利用持久内存提速Spark 简介: 主要探讨如何在Spark上使用持久内存这一新技术来进一步提速性能。具体会介绍基于Plasma的共享内存方案来提速SQL数据源访问的性能以及利用持久内存扩展Spark现有内存磁盘存储层级来提速RDD cache在迭代式计算中的效果。 时间: 9月10日 19:00 本周四 观看方式: 或届时进入直播间(回看链接):https://developer.aliyun.com/live/45184 讲师介绍: 纪琨尚,英特尔亚太研发有限公司大数据部门的软件工程师,专注于Spark计算框架上基于Optane PMEM的优化 叶宇强,英特尔亚太研发有限公司大数据部门的资深软件工程师,专注于Spark计算框架上基于Optane PMEM的优化

优秀的个人博客,低调大师

中国HBase技术社区第二届MeetUp -笔记摘要

kylin:通过预计算(已知要查询的维度),通过spark,mr遍历计算这些指标,然后将结果存储到hbase中,最后直接查询hbase表即可。 hbase rowkey定义不宜过长,否则存储压力会很大。这里通过使用字典编码。 hbase 优化经验: 火焰图分析:从下往上分析,峰值的分布(满载还是正常) hbase内存消耗主因(memstore(写文件), blockcache(读取)) 两种不同的gc算法: hbase gc 参数配置: 使用G1算法,效果显著。 hbase WAL 和核心业务配置为ALL_SSD(所有副本使用SSD) 指定队列 分别使用HDD, ONE_SSD, ALL_SSD ,和使用读写分离。性能的变化。。 设置zone_reclaim。。可以避免本地内存不够导致OOM。(numa的问题) hbase (高一致性,一行数据一般都是通过一个regionserver来处理,通过单机来保证一致性,所以发生故障,恢复可能会较慢)和 Cassandra(HA要求高,一致性较低(一半副本写完既可以,所以读取时可能读取不到最新数据,然后通过异步刷新,知道最终写完副本), redis(集群方式不完善)的区别 why?region crash 为true, 就无法恢复上不了线。 不做compaction(合并),flush。 怎么把磁盘打满(利用起来)? 限流不要太狠,需因地制宜 避免小文件生成,和compaction合并。是否配置自动(1h)flush,和多少changes(3千万)flush。 到底写多少hlog根据盘数目:(怎么把磁盘用起来) 远程读和hybrid 都需要注意网络问题 使用jsata去查看handler wait在哪里?

资源下载

更多资源
Mario

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

腾讯云软件源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题,腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构,目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring

Spring框架(Spring Framework)是由Rod Johnson于2002年提出的开源Java企业级应用框架,旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念,提供核心容器、应用上下文、数据访问集成等模块,支持整合Hibernate、Struts等第三方框架,其适用范围不仅限于服务器端开发,绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能,例如代码缩略图,Python的插件,代码段等。还可自定义键绑定,菜单和工具栏。Sublime Text 的主要功能包括:拼写检查,书签,完整的 Python API , Goto 功能,即时项目切换,多选择,多窗口等等。Sublime Text 是一个跨平台的编辑器,同时支持Windows、Linux、Mac OS X等操作系统。

用户登录
用户注册