阿里云HybridDB for PG实践 - 行存、列存，堆表、AO表的原理和选择-低调大师

阿里云HybridDB for PG实践 - 行存、列存，堆表、AO表的原理和选择

2017-08-19 839

背景

Greenplum支持行存和列存，支持堆表和AO表，那么他们有什么不同，如何选择呢？

行存和列存的原理

1、行存，以行为形式组织存储，一行是一个tuple，存在一起。当需要读取某列时，需要将这列前面的所有列都进行deform，所以访问第一列和访问最后一列的成本实际上是不一样的。

在这篇文档中，有deform的详细介绍。《PostgreSQL 向量化执行插件(瓦片式实现) 10x提速OLAP》

行存小结：

全表扫描要扫描更多的数据块。

压缩比较低。

读取任意列的成本不一样，越靠后的列，成本越高。

不适合向量计算、JIT架构。（简单来说，就是不适合批处理形式的计算）

需要REWRITE表时，需要对全表进行REWRITE，例如加字段有默认值。

2、列存，以列

微信关注我们

原文链接：https://yq.aliyun.com/articles/175033

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

如何检测、清理Greenplum垃圾 - 阿里云HybridDB for PG最佳实践

标签 PostgreSQL , Greenplum , HDB for PG 背景 Greenplum通过多版本支持数据的删除和更新的并发和回滚，在删除数据时（使用DELETE删除），对记录的头部xmax值进行标记。在删除记录时，对记录的头部进行标记，同时插入新的版本。这一就会导致一个问题，如果用户经常删除和插入或更新数据，表和索引都会膨胀。 PostgreSQL是通过HOT技术以及autovacuum来避免或减少垃圾的。但是Greenplum没有自动回收的worker进程，所以需要人为的触发。如何查找膨胀的表或索引 Greenplum 1、首先要更新表的统计信息，因为接下来的两个视图是从统计信息来计算膨胀率的。连接到所有目标库执行： analyze; 2、查询gp_toolkit.gp_bloat_diag，膨胀较厉害的表。 U

2017-08-20

647

标签 PostgreSQL , Greenplum , 相对偏移 , 列存储 , appendonly , AO表背景 Greenplum的Append only table支持更新、删除。通过什么支持呢？bitmap文件，标记被删除的行。因此在更新，删除后，数据可能膨胀。另一方面，列存储每列一个文件，同一行通过偏移对应起来。例如INT8的两个字段，通过偏移很快能找到某一行的A列对应的B列。接下来谈谈加字段，在加字段时，AO表示不会REWRITE TABLE的。如果AO表以及有一些垃圾（被删除的数据）记录后，加的字段会使用相对偏移吗（换句话说，需不需要填充已删除的记录），答案是要填充。例子 1、创建3张AO列存表。 postgres=# create table tbl1 (id int, info text) with (appendo

2017-08-20

697

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。