AI 推理运行时 Windows ML 正式 GA
微软宣布 Windows ML 现已面向生产环境正式 GA,Windows ML 最早在 Build 2025 大会上推出,是内置的 AI 推理运行时,针对设备上的模型推理进行了优化,并简化了模型依赖管理,支持 CPU、GPU 和 NPU。 Windows ML 让 C#、C++ 和 Python 开发者能够通过 ONNX 运行时在本地 Windows 电脑上运行 ONNX AI 模型,并为不同的硬件(CPU、GPU、NPU)自动执行提供程序管理。 ONNX 运行时可用于 PyTorch、Tensorflow/Keras、TFLite、scikit-learn 和其他框架中的模型。 Windows ML 具备以下主要优势: Windows ML 架构 API 支持多种硬件架构,开发者可利用设备已安装的执行提供程序或动态下载相关组件,无需为不同设备反复打包应用。同时,开发者还可预编译模型(AOT),为终端用户提供流畅体验。 Windows ML 能根据 PC 硬件自动下载所需执行组件,开发者无需在应用内捆绑运行时或执行程序。 Windows ML 持续兼容并适配硬件升级,开发者不必为未来...
