高通公司正式发布了其新一代人工智能芯片 ——AI200和 AI250。

根据介绍，高通 AI200芯片是一款专为机架级 AI 推理设计的解决方案，其目标在于降低总体拥有成本（TCO）并提升性能。该芯片支持768GB 的 LPDDR 内存，这样的内存容量和更低的成本为大型语言模型(LLM)和多模态模型(LMM)的推理提供了强大支持。

与此相对，高通的 AI250则采用了近内存计算（near-memory computing）的创新架构，这种架构使其能够提供超过10倍的内存带宽，同时显著降低功耗，提升 AI 推理任务的效率与性能。两款芯片均配备了直接液冷技术，以增强散热效果。

在硬件之外，高通还推出了一个全面的 AI 软件栈，涵盖了从应用层到系统软件层的所有内容，专为 AI 推理进行了优化。开发者可以通过高通的 Efficient Transformers Library 和 AI 推理套件，轻松实现模型的部署和管理。该软件栈支持众多主流机器学习框架和推理引擎，为 AI 应用的开发提供了丰富的工具、库和 API。

预计高通的 AI200和 AI250将在2026年和2027年正式商用。