快手开源向量化引擎 Auron 正式加入 Apache 孵化器
由快手开源并捐赠的向量化引擎Auron项目(原Blaze项目)近期正式进入全球最大开源基金会(ASF)的孵化器,移交到Apache软件基金会名下。
加入Apache软件基金会孵化,源于我们对开源生态的深刻认同,以及对项目长期可持续发展的考量。目前Auron已在多家公司应用落地,验证了其实用价值。然而,开源项目的生命力不仅依赖技术先进性,更需要通过开放的社区治理、多元的贡献者参与和透明的决策机制实现持续进化。我们始终相信,开源的价值在于“共享”与“共创”。
我们将严格遵守Apache的治理规范,推动项目代码、文档与社区的全面透明化,吸引更多开发者参与技术迭代,与Apache生态中的其他大数据项目(如Spark/Flink/Celeborn等)形成技术互补,共同推动大数据领域的技术持续创新。
Auron是基于向量化技术开发的一套Native执行引擎,可以充分利用Native代码和SIMD指令向量化优势,以实现减少资源开销、加速执行的目的。
其核心能力包括:
- 原生执行:采用Rust实现,消除JVM开销以取得更好的性能表现;
- 向量化计算:基于Apache Arrow列式格式构建,充分利用SIMD指令优化批处理;
- 可插拔架构:与Apache Spark无缝集成,同时设计上支持未来扩展至其他计算引擎;
- 生产环境强化优化:开发了多级内存管理、优化Shuffle格式及自适应执行策略等优化机制,并在生产环境大规模应用落地。
基于Auron,在TPC-DS上相比Spark可以取得2+倍的性能提升:
Auron 发展历史与现状
2022年1月,快手大数据Spark引擎团队正式启动了Blaze并开源。2023年9月,Blaze在TPC-H/TPC-DS等Beachmark上取得了显著的性能提升。同时,团队也围绕生产环境进行了大量优化,并在快手内部实现了大规模应用。目前,Blaze在快手日均运行数十万个任务、处理EB级别数据,展现出卓越的性能和稳定性,为快手每年节约数千万元服务器成本。
在社区运营方面,快手于2024年1月展开了开源社区的管理工作。自Blaze开源以来,已累计发布了10余个版本。目前,Blaze 已被滴滴、携程、汽车之家、58同城、OPPO等多个行业的公司广泛使用。
2025年8月,Blaze项目正式进入ASF孵化器,并更名为 Auron(发音: [ˈɔːrɑːn] ),其灵感来源 Aura(能量场)。Auron 寓意为大数据引擎所带来的强大性能,未来,Auron社区计划提供更多先进功能,如Flink引擎、数据湖系统、GPU/DPU硬件的集成等。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
-
上一篇
Anthropic 承认 Claude Opus 4.1 和 Opus 4 模型近期“降智”
8 月 30 日,Anthropic 官方发布事件报告,确认了 Claude Opus 4.1 和 Opus 4 近期出现质量下降的情况。(官方表示已修复) 报告显示,从 8 月 25 日 17:30 至 8 月 28 日 2:00 期间(世界统一时间),Claude Opus 4.1 对某些请求的回答质量有所下降,用户端可能会看到较低的智能表现、格式错误的响应或 Claude Code 中工具调用出现问题。 Anthropic 方面表示,上述情况是由于其推理堆栈的推送所引起,目前已将 Claude Opus 4.1 进行回滚。Anthropic 表示,虽然更新是为了提高模型效率和吞吐量,但其意图始终是保持相同的模型响应质量。 另外,Anthropic 还发现 Claude Opus 4.0 也受到了上述问题影响,目前同样进行回滚处理。
-
下一篇
阿里巴巴正在开发一款新 AI 芯片,已进入测试阶段
据报道,阿里巴巴正在开发一款新的人工智能芯片,意在填补英伟达在中国市场的空白。目前,这款芯片已进入测试阶段,主要面向更广泛的AI推理任务,并与英伟达的架构兼容。 此外,新的芯片不再由台积电代工,转为由国内一家企业代工。 目前,阿里巴巴已经推出了多款自研AI芯片以及AI大模型,并通过阿里云将AI算力与解决方案服务化,提供给广泛的企业用户。值得注意的是,阿里云AI相关产品收入已连续八个季度保持三位数的同比增长,显示出该业务的持续爆发力。
相关文章
文章评论
共有0条评论来说两句吧...