Arm 中国考虑将其

Arm 中国正在考虑通过最近创建的加速器"accel"子系统将其"周易"NPU 驱动程序提交到 Linux 内核上游。中国Arm公司的神经处理单元（NPU）驱动程序目前拥有开源内核和用户空间堆栈。

三年前，百度的一位工程师曾关注过用于 Linux 内核的周易 AI 加速器驱动程序，但这只是一个开源的内核驱动程序，当时还缺乏一个开源的用户空间软件栈。从那时起，Arm China 就开始着手开发这个完全开放的用户/内核驱动程序栈。全志 R329 等一些 SoC 中就采用了 Arm China 的 NPU。（通过阿里速卖通和类似渠道可以买到一些支持 Arm China NPU 的开发板）

今天，Arm China 的一位工程师宣布，希望将他们的 NPU 驱动程序上游化到加速器子系统中。目前，至少开放的用户模式驱动程序和内核驱动程序是通过Arm China在 GitHub 上的Compass NPU 驱动程序开发的。

https://lore.kernel.org/dri-devel/20240328103205.seht2hbog3o4giv5@bogus/T/#t

这个开源 AI 加速器驱动程序栈依赖于通过 Arm China 的 NN 图编译器将 TensorFlow Lite 和 ONNX 模型转化为可执行程序库。然后，应用程序将该可执行文件加载到用户模式驱动程序中，二进制文件提交给内核驱动程序，内核驱动程序再调度到支持的 SoC 上的 NPU 硬件。

到目前为止，邮件列表只是阐述了大家的兴趣，并找出了将 Arm China NPU 驱动程序上传到主线 Linux 内核的要求。这仍然需要上游 DRM/accel 维护者审查代码，确保其符合适当的接口等，因此前方的路还很长，但至少很高兴看到 Arm China 现在有了一个完全开源的 Linux NPU 驱动程序栈。