Databend 开源周报第 115 期
Databend 是一款现代云数仓。专为弹性和高效设计,为您的大规模分析需求保驾护航。自由且开源。即刻体验云服务:https://app.databend.cn 。
What's On In Databend
探索 Databend 本周新进展,遇到更贴近你心意的 Databend 。
聚合索引
Databend 最近引入了 聚合索引 以提高查询性能,特别是涉及 MIN、MAX 和 SUM 等聚合查询的场景下。聚合索引使用预计算和独立存储查询结果等技术,从而消除了扫描整个表的需要,加快了数据检索速度。
此外,该特性还附带刷新机制,支持按需更新和保存最新查询结果,从而保持数据的准确性和可靠性。Databend 建议在执行相关查询之前手动刷新聚合索引,以检索最新的数据;如果使用 Databend Cloud 则支持自动刷新聚合索引。
-- Create an aggregating index CREATE AGGREGATING INDEX my_agg_index AS SELECT MIN(a), MAX(c) FROM agg; -- Refresh the aggregating index REFRESH AGGREGATING INDEX my_agg_index;
聚合索引 需要升级至 企业版 。如需了解升级信息,请联系 Databend 团队 。
如果您想了解更多信息,请查看下面列出的资源。
Code Corner
一起来探索 Databend 和周边生态中的代码片段或项目。
MERGE INTO 流水线全景图
前段时间,Databend 实现了对 MERGE INTO
语句的支持,以提供更全面的数据维护能力。对其中原理感兴趣的小伙伴,可以查看下面的 MERGE INTO
流水线全景图。
+-------------------+ +-----------------------------+ output_port_row_id | | +-----------------------+ Matched | +------------------------>-ResizeProcessor(1)+---------------+ | +---+--------------->| MatchedSplitProcessor | | | | | | | | +----------+ +-------------------+ | +----------------------+ | +---+ +-----------------------------+ | | | MergeIntoSource +---------->|MergeIntoSplitProcessor| output_port_updated | +----------------------+ | +---+ +-----------------------------+ | +-------------------+ | | | | NotMatched | | | | | | | +---+--------------->| MergeIntoNotMatchedProcessor+----------+------------->-ResizeProcessor(1)+-----------+ | +-----------------------+ | | | | | | +-----------------------------+ +-------------------+ | | | | | | | | | | | | +-------------------------------------------------+ | | | | | | | | | | +--------------------------+ +-------------------------+ | ++---------------------------+ | +--------------------------------------+ | | +---------+ TransformSerializeSegment<--------+ TransformSerializeBlock <-----+---------+|TransformAddComputedColumns|<---------+-----+TransformResortAddOnWithoutSourceSchema<-+ | | +--------------------------+ +-------------------------+ | ++---------------------------+ | +--------------------------------------+ | | | | | | | | | | | | | | | | | | +---------------+ +------------------------------+ | ++---------------+ | +---------------+ | +----------+ TransformDummy|<----------------+ AsyncAccumulatingTransformer <-+---------------+|TransformDummy |<---------------+---------------+TransformDummy <------------------+ | +---------------+ +------------------------------+ | ++---------------+ | +---------------+ | | | | | If it includes 'computed', this section | | | of code will be executed, otherwise it won't | | | | | -+-------------------------------------------------+ | | | | +------------------+ +-----------------------+ +-----------+ +------->|ResizeProcessor(1)+----------->|TableMutationAggregator+------->|CommitSink | +------------------+ +-----------------------+ +-----------+
如果您想了解更多信息,请查看下面列出的资源。
Highlights
以下是一些值得注意的事件,也许您可以找到感兴趣的内容。
- 为 MERGE INTO 实现自动聚合和自动 compact 支持。
- SQLsmith 现在可以覆盖 DELETE、UPDATE、ALTER TABLE 和 CAST 。
- 新增
json_each
和json_array_elements
等半结构化数据处理函数。 - 新增
to_week_of_year
和date_part
等时间日期函数,可以阅读 Docs | Date & Time Functions 了解更多细节。 - 阅读 Sending IoT Stream Data to Databend with LF Edge eKuiper 了解如何将 Databend 与 eKuiper 集成,以应对日益增长的 IoT 数据分析需求。
What's Up Next
我们始终对前沿技术和创新理念持开放态度,欢迎您加入社区,为 Databend 注入活力。
增强基于角色的访问控制能力
目前,Databend 的访问控制体系由基于角色的访问控制(RBAC)和自主访问控制(DAC)两部分组成。然而,为了进一步完善这套体系,还需要完成一些后续工作。
我们计划在 2023 Q4 支持对更多未覆盖资源的权限检查,并且制定相应的权限定义指南。
Issue #13207 | Tracking: RBAC improvement plan in 2023 Q4
如果你对这个主题感兴趣,可以尝试解决其中的部分问题或者参与讨论和 PR review 。或者,你可以点击 https://link.databend.rs/i-m-feeling-lucky 来挑选一个随机问题,祝好运!
Changelog
前往查看 Databend 每日构建的变更日志,以了解开发的最新动态。
地址:https://github.com/datafuselabs/databend/releases
Contributors
非常感谢贡献者们在本周的卓越工作。
Connect With Us
Databend 是一款开源、弹性、低成本,基于对象存储也可以做实时分析的新式数仓。期待您的关注,一起探索云原生数仓解决方案,打造新一代开源 Data Cloud。
低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
当 BACnet 遇上 IoT,你将体验到不一样的大楼
本文分享自华为云社区《当 BACnet 遇上 IoT》,作者:美码师zale 。 引言 在十四五规划中,"新基建"无疑是倍受关注的重点领域。而关于"新基建"一词相信大家也早已耳熟能详,与传统基建相比,新基建最大的区别在于数字经济特征的体现,其自身包含了数字化、网络化、智慧化等几个特点。毫无疑问的是,新基建将成为新型智慧城市设施建设的有力支撑。智慧场馆、智慧楼宇作为智慧城市最重要的组成部分,在今天看来也不再是一些陌生的词汇。事实上,几乎所有的大型商业综合体、办公园区都配备了完善的楼宇自控,安防、办公等综合性系统,其中楼宇自控系统(BAS)是智慧建筑不可或缺的最重要的组成部分。 利用楼宇自控系统,可以对整栋建筑所有公用机电设备实现统一的监控管理。系统可无缝对接各类楼宇设施子系统,包括中央空调系统、给排水系统、供配电系统、照明系统等等,进一步对设备实施自动化控制管理及优化。例如,提前监测到人工无法及时发现的隐患,避免重大事故损失;自动进行室内恒温/湿控制,人性化的照明控制,提升办公体验;优化设备自动化控制管理,从而降低设备故障率和运维成本。基于多种使用场景的综合优化,旨在打造安全高效、舒适便...
- 下一篇
Apache DolphinScheduler 官方发布3.2.0版本!大数据调度【重磅更新】
今天,Apache DolphinScheduler 3.2.0 版本在万众期待中终于发布了!在之前的预告中,包括《重磅预告!Apache DolphinScheduler 3.2.0 新功能“剧透”》、《3.2.0 版本预告!Apache DolphinScheduler API 增强相关功能》、《3.2.0 版本预告!远程日志解决 Worker 故障获取不到日志的问题》,以及《3.2.0 终极预告!云原生支持新增 Spark on k8S 支持》文章汇总已经大致覆盖了 3.2.0 版本的全新功能和优化。 现在,来看看新版本的全新“样貌”吧! Release Note: https://github.com/apache/dolphinscheduler/releases/tag/3.2.0 下载地址: https://dolphinscheduler.apache.org/en-us/download/3.2.0 主要更新包括: 添加默认租户 新增多种数据源 新增任务类型 重跑任务时指定工作流向前、向后运行 增加远程日志功能 参数优化 资源中心 增强页面易用性 云原生支持新增 Sp...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- CentOS关闭SELinux安全模块
- 2048小游戏-低调大师作品
- Springboot2将连接池hikari替换为druid,体验最强大的数据库连接池
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- SpringBoot2配置默认Tomcat设置,开启更多高级功能
- CentOS7编译安装Gcc9.2.0,解决mysql等软件编译问题
- Red5直播服务器,属于Java语言的直播服务器
- Linux系统CentOS6、CentOS7手动修改IP地址
- CentOS7,8上快速安装Gitea,搭建Git服务器
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7