安谋科技发布新一代 NPU IP “周易” X3

近日,安谋科技正式发布新一代 NPU IP “周易” X3。该产品采用最新 DSP+DSA 架构,可灵活支持端侧多任务场景。

据了解,其配套的 “周易” NPU Compass AI 软件平台优化大模型端到端性能,新增对 Hugging Face 模型库的原生支持,支持超 160 种算子、270 种模型。

“周易” X3 采用专为大模型设计的 DSP + DSA 架构,兼顾 CNN 与 Transformer,并协同完善的 “周易” NPU Compass AI 软件平台,旨在为基础设施、智能汽车、移动终端及智能物联网四大领域提供高效 AI 计算核心,加速端侧 AI 部署。

硬件方面,“周易” X3 具备 8-80 FP8 TFLOPS 算力,单 Core 带宽高达 256 GB/s,支持 W4A8/W4A16 计算加速模式,并集成自研 WDC 解压硬件,使大模型权重压缩后可获得额外约 15% 的等效带宽。其 AIFF 硬件引擎与专用调度器可将 CPU 负载降至 0.5%,显著提升并行任务处理效率。

性能方面,“周易” X3 CNN 模型性能较上一代提升 30%-50%,AIGC 大模型能力提升 10 倍。实测数据显示,Prefill 阶段算力利用率达 72%,Decode 阶段在开启 WDC 情况下有效带宽利用率超过 100%,充分释放硬件潜力。

平台已开源 Parser、Optimizer、Linux Driver、TVM 等核心组件,并支持 DSL 算子编程语言,初期已支持超 160 种算子与 270 多种模型,提升开发与部署效率。

优秀的个人博客,低调大师

微信关注我们

原文链接:https://www.oschina.net/news/384470

转载内容版权归作者及来源网站所有!

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

相关文章

发表评论

资源下载

更多资源
优质分享Android(本站安卓app)

优质分享Android(本站安卓app)

近一个月的开发和优化,本站点的第一个app全新上线。该app采用极致压缩,本体才4.36MB。系统里面做了大量数据访问、缓存优化。方便用户在手机上查看文章。后续会推出HarmonyOS的适配版本。

Mario,低调大师唯一一个Java游戏作品

Mario,低调大师唯一一个Java游戏作品

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长,特征是大鼻子、头戴帽子、身穿背带裤,还留着胡子。与他的双胞胎兄弟路易基一起,长年担任任天堂的招牌角色。

Apache Tomcat7、8、9(Java Web服务器)

Apache Tomcat7、8、9(Java Web服务器)

Tomcat是Apache 软件基金会(Apache Software Foundation)的Jakarta 项目中的一个核心项目,由Apache、Sun 和其他一些公司及个人共同开发而成。因为Tomcat 技术先进、性能稳定,而且免费,因而深受Java 爱好者的喜爱并得到了部分软件开发商的认可,成为目前比较流行的Web 应用服务器。

Eclipse(集成开发环境)

Eclipse(集成开发环境)

Eclipse 是一个开放源代码的、基于Java的可扩展开发平台。就其本身而言,它只是一个框架和一组服务,用于通过插件组件构建开发环境。幸运的是,Eclipse 附带了一个标准的插件集,包括Java开发工具(Java Development Kit,JDK)。