Databend 开源周报第 118 期
Databend 是一款现代云数仓。专为弹性和高效设计,为您的大规模分析需求保驾护航。自由且开源。即刻体验云服务:https://app.databend.cn 。
What's On In Databend
探索 Databend 本周新进展,遇到更贴近你心意的 Databend 。
MERGE INTO 现已支持分布式执行
MERGE INTO 语句会根据指定的条件和匹配标准,使用来自指定源的数据,在目标表中执行对行的插入、更新或删除操作。
现在 Databend 中的 MERGE INTO 已经支持分布式执行,这将会带来更高效的数据集成能力,其物理计划如下图所示:
如果您想了解更多信息,欢迎联系 Databend 团队,或查看下面列出的资源。
Code Corner
一起来探索 Databend 和周边生态中的代码片段或项目。
使用 LakeFS 将数据版本化嵌入你的分析工作流
lakeFS 致力于为共享和协作处理数据提供解决方案,用类似 Git 的操作逻辑赋能对象存储,采用版本化方案为数据提供逻辑一致的视图,为现代化数据工作流嵌入有意义的分支名和提交信息,并且为数据、文档的一体化提供解决方案。
Databend 在提供分布式、弹性可拓展、运维方便的高性能查询引擎,同样支持类似Git的多版本存储,可以轻松查询、克隆和还原任意时间点的数据。
结合 LakeFS 的数据版本化能力和 Databend 的类 Git 数据管理能力,可以确保数据完备性,并且为数据分析工作流提供高效、高可用的一致视图。
如果您想了解更多信息,请查看下面列出的资源。
Highlights
以下是一些值得注意的事件,也许您可以找到感兴趣的内容。
- 支持 JSON 运算符:
?
,?|
和?&
。 - 支持对 STAGE 和 UDF 的权限管理。
- 支持
flatten
表函数。 - 支持使用 URL 创建外部表:
CREATE STAGE test_stage [URL =] 's3://load/files/'
。 - 阅读文档 Example 2: Attaching Table in READ_ONLY Mode 了解如何使用 ATTACH TABLE 的只读模式。
- 阅读文档 Conversion Functions 了解 Databend 中的类型转换函数与规则。
What's Up Next
我们始终对前沿技术和创新理念持开放态度,欢迎您加入社区,为 Databend 注入活力。
支持读取 Delta 表格式
Databend 目前支持通过 Catalog 挂载并读取 Iceberg 表格式中的数据,计划支持的下一个目标是 Delta Lake 。
Delta Lake 是由 Databricks 发起并开源的存储格式。它通过基于文件的事务日志扩展了 Parquet 数据文件,使其能够处理 ACID 事务和可扩展的元数据。 Delta Lake 完全兼容 Apache Spark API,并且其设计与结构化流式处理紧密集成,使您可以轻松地在批处理和流式处理操作中使用单个数据副本,并提供大规模增量处理。
Issue #13429 | add read only support for Delta table
如果你对这个主题感兴趣,可以尝试解决其中的部分问题或者参与讨论和 PR review 。或者,你可以点击 https://link.databend.rs/i-m-feeling-lucky 来挑选一个随机问题,祝好运!
New Contributors
一起认识社区中的新伙伴,Databend 因你们而变得更加美好。
Changelog
前往查看 Databend 每日构建的变更日志,以了解开发的最新动态。
地址:https://github.com/datafuselabs/databend/releases
Contributors
非常感谢贡献者们在本周的卓越工作。
Connect With Us
Databend 是一款开源、弹性、低成本,基于对象存储也可以做实时分析的新式数仓。期待您的关注,一起探索云原生数仓解决方案,打造新一代开源 Data Cloud。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
正在被代码折磨到深夜的你,何不请 AI 帮帮你
就在生成式AI工具规模化应用仍被质疑和观望的时候,由其生成的内容、视觉、代码程序已经高速涌入大众视野。AI技术一日千里,拥抱AI开发工具或将成为向未来工程师的进化的必经之路。 “半天时间就能梳理20000行代码” 大星是某电商业务的后端核心研发,入行3年,成长很快,已经是项目owner独当一面。但是大星也自有烦恼,电商促销活动频繁,且因为需求方复杂,经常需要处理突发状况,还有一个“重灾区”就是频繁修复历史技术债,不断打补丁,使得系统的可维护性越来越差,重构迫在眉睫。 今年提前两个月,双十一大促进入筹备期。大星发现,如果不尽快重构系统,不仅很难继续补丁式的开发新活动,甚至稳定性也存在风险。但是重构系统又与新的开发工作存在矛盾,人力有限,极容易顾此失彼。这时,大星想到了近期在试用的百度Comate 研发插件,在理解老代码、生成注释方面都有不错的表现,于是大星和小伙伴,迅速梳理了遗留的老代码,制定了新优惠逻辑的实现融合方案,快速融合了新旧优惠逻辑,2名研发只用了半天时间完成了20000多行代码的梳理。 后来,大星多次分享了这次经历:“这不仅等于增派了研发人力,更重要的是百度Comate理解...
- 下一篇
Databend Cloud 如何助力 AIGC 初创公司成本下降百倍
某主营虚拟社交的 AIGC 领域海外初创公司,致力于将虚拟世界与现实世界联系起来。旗下平台基于开源的 Stable Diffusion 生态,专注于动漫角色制作,提供集 AI 绘图、图片搜索与社交分享于一体的一站式服务。 Databend Cloud 提供了易用、高效率和经济高效的大数据处理方案。通过选用 Databend Cloud 进行分析处理,该初创公司将用户行为日志分析成本降低至原有方案的百分之一。 需求分析 在平台上,要想生成满意的动漫角色,涉及模型选择、Prompt 编写、作品调优等多个交互环节,对于特定的需求,还可能涉及图片上传及编辑等功能。 社交属性的产品关注用户粘性和行为,而 AIGC 产品又格外注重交互体验。为了更好了解用户习惯,进一步改善用户体验、优化网站和应用程序,平台需要通过埋点的形式采集用户行为日志并进行分析,最终绘制图表形成看板。 用户行为分析和根本原因分析又涉及一些复杂查询和高级图表,如果采购专业软件,每个月至少需要花费数千美金。根据第三方流量统计,该平台有近千万总访问量,每月日志规模已经迈向亿级,数据规模日益庞大,存储和分析成本也需要控制。 如何在获取...
相关文章
文章评论
共有0条评论来说两句吧...