理想汽车发布端侧大模型“软硬协同设计定律”,为下一代自研芯片奠定基础
理想汽车联合国创决策智能技术研究所正式发布端侧大模型“软硬协同设计定律”,提出面向车载与边缘场景的大模型软硬一体化设计方法,为下一代智能驾驶芯片的架构定义提供了系统性理论基础。 据介绍,此次发布的“软硬协同设计定律”首次建立了可量化、可预测的软硬协同数学框架,通过对模型精度与推理延迟进行联合建模,实现算法架构与硬件资源之间的系统级优化匹配,打破了传统“先设计芯片、后适配算法”或“先开发算法、再寻找硬件”的割裂模式。 在成熟车载平台上的验证结果显示,在保持相同推理延迟的前提下,协同优化后的模型精度实现了显著提升。这一成果证明,智能水平的提升并不必然依赖更高算力,而可以通过算法与硬件的深度协同实现系统能效跃迁。 基于此研究,理想汽车正在推进的下一代自研智能驾驶芯片,将以算法需求为原点进行架构定义,在设计层面原生支持稀疏计算、动态资源调度与混合精度推理,打造面向车载VLA系统的“算法原生芯片”,实现更高能效比与更强智能表现。 论文标题:Hardware Co-Design Scaling Laws via Roofline Modelling for On-Device LLMs 作者团队...


