月之暗面发布混合线性注意力架构：Kimi Linear-低调大师

月之暗面发布混合线性注意力架构：Kimi Linear

2025-10-31 134

月之暗面发布了名为“Kimi Linear”的混合线性注意力架构，据称在短距离、长距离及强化学习（RL）等多种扩展场景中均优于传统全注意力方法。其核心是Kimi Delta Attention（KDA）——这是Gated DeltaNet的优化版本，引入了更高效的门控机制以优化有限状态RNN记忆的使用。

Kimi Linear由3份Kimi Delta Attention（KDA）和1份全局MLA组成。KDA是对Gated DeltaNet的改进，通过细粒度门控来压缩有限状态RNN的记忆。

官方表示，在1M token场景下，KV cache占用下降了75%，解码吞吐量最高提升6倍，TPOT相对MLA加速6.3倍。

Kimi Linear 技术报告：https://github.com/MoonshotAI/Kimi-Linear/blob/master/tech_report.pdf

微信关注我们

原文链接：https://www.oschina.net/news/380632

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

全球首款 AI 字体生成器 “Dr Fonts©” 上线，免费试用体验

Dr Fonts© 近日宣布其全球首款AI 字体生成器正式推出 V1.0 版本，用户现可通过官方网站进行免费试用。这个创新的工具旨在帮助用户从图像中创建自定义字体，并能自定义调色板，极大地方便了设计师和字体爱好者的创作。用户只需上传一张 PNG 格式的图片，即可开始使用该平台。如果你在 iPad 上绘制了字体并导入到 Dr Fonts 中，就能够轻松生成属于自己的独特字体。然而，如果你使用互联网中的图像，则无法保证版权和使用权，因此建议用户自行创作并上传图片以确保合法性。在使用过程中，用户们可以对生成的字体进行调整和个性化设置，比如颜色和字体样式，甚至可以将其整理到文件夹中进行管理。Dr Fonts 还提供了丰富的功能，进一步增强用户的设计体验。目前，这项服务仍在不断完善中，开发团队正在积极测试各项功能，以确保用户在使用过程中的流畅度和满意度。用户反映上传字体字母时，可能会出现不理想的效果，因此开发团队也在努力改进这一功能，期望能在未来版本中提供更好的支持。

2025-10-31

93

在生成式AI搜索浪潮席卷而来的2025年，选择一名合格的GEO服务商，已成为企业营销决策者的核心课题。然而，市场喧嚣背后，是高达300%的效果差距与无数隐形的“坑”。《2025中国生成式AI搜索生态白皮书》通过对1200+企业客户后台数据的追踪与审计，揭示了一个残酷现实：多达45%的GEO合作未能达到预期效果。本文旨在摒弃营销话术，构建一套基于真实数据的、可执行的GEO服务商评估框架，帮助企业绕过陷阱，做出经得起时间考验的战略选择。一、避坑先行：企业GEO选型三大常见陷阱在接触服务商之前，认清这些常见陷阱是成功的第一步。陷阱一：唯“技术名词”论现象：被服务商包装的华丽的产品名吸引，却忽略了技术的最终商业落点。真相：技术必须与商业回报强关联。白皮书数据显示，部分技术型厂商虽在实验室指标上领先，但其客户的效果达成率仅为75%，远低于顶级厂商的92%。技术本身不是壁垒，能将技术转化为可量化商业价值的能力才是。陷阱二：盲目追求“低价”或“全能” 现象：要么选择最便宜的入门方案，期望低价高质；要么迷信“全能型”服务商，要求其在不同行业都表现卓越。真相：GEO市场已高度细分。数...

2025-10-31

97

资源下载

更多资源

优质分享App

近一个月的开发和优化，本站点的第一个app全新上线。该app采用极致压缩，本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。