苹果开源深度学习框架 MLX,专门针对 Apple Silicon 芯片优化
苹果开源了针对 Apple Silicon 芯片优化的 MLX 深度学习框架,并表示该框架可以简化研究人员在 Mac、iPad、iPhone 平台设计和部署模型的过程。
地址:https://github.com/ml-explore/mlx
根据介绍,该深度学习框架提供了与主流开发工具接轨的 API、支持延迟计算、采用动态设计并软硬结合、对研究人员较为友好,且具有统一内存优势。
MLX 主要特性
-
提供开发者熟悉的 API:MLX 具有和 NumPy 接近的 Python API,此外还拥有功能齐全的 C++ API,它与 Python API 非常相似。 MLX 具有
mlx.nn
和mlx.optimizers
等更高级别的包,其 API 紧密贴合 PyTorch,以简化构建更复杂的模型 -
可组合函数转换:MLX 具有用于自动微分、自动矢量化和计算图优化的可组合函数转换
-
惰性计算 (Lazy computation):MLX 中的计算是惰性计算。数组仅在需要时才会具体化
-
动态图构建:MLX 中的计算图采用动态构建,更改函数参数的形状不会触发缓慢的编译,并且调试简单直观
-
多设备:可以在任何支持的设备上运行(当前为 CPU 和 GPU),确保用户能够充分利用硬件
-
具备统一内存优势:MLX 和其他框架的显着区别是采用统一内存模型。 MLX 中的数组位于共享内存中,可以在任何支持的设备类型上执行 MLX 阵列上的操作,而无需移动数据。

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。
持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。
转载内容版权归作者及来源网站所有,本站原创内容转载请注明来源。
- 上一篇
麦当劳中国启动鸿蒙原生应用开发
麦当劳中国 12 月 6 日与华为达成鸿蒙合作协议,正式宣布麦当劳中国 APP 将基于 HarmonyOS NEXT 启动鸿蒙原生应用开发。 中国市场已经成为了麦当劳全球的第二大市场。麦当劳中国在中国市场坐拥 5500 多家餐厅,拥有超过 20 万员工,每年服务顾客超过十亿人次,成为首批启动鸿蒙原生应用开发的全球大型连锁餐饮企业。 目前,美团、去哪儿、新浪、钉钉、蚂蚁集团、小红书、58集团、哔哩哔哩、高德地图等均已启动鸿蒙原生应用开发。 华为终端云服务开发者服务与平台部总裁望岳表示:“麦当劳中国启动鸿蒙原生应用开发,是鸿蒙生态发展在餐饮界的又一次重要突破。”
- 下一篇
每日一博 | JDK 21 虚拟线程原理及性能分析
一、背景 JDK21 在 9 月 19 号正式发布,带来了较多亮点,其中虚拟线程备受瞩目,毫不夸张的说,它改变了高吞吐代码的编写方式,只需要小小的变动就可以让目前的 IO 密集型程序的吞吐量得到提升,写出高吞吐量的代码不再困难。 本文将详细介绍虚拟线程的使用场景,实现原理以及在 IO 密集型服务下的性能压测效果。 二、为了提升吞吐性能,我们所做的优化 在讲虚拟线程之前,我们先聊聊为了提高吞吐性能,我们所做的一些优化方案。 串行模式 在当前的微服务架构下,处理一次用户/上游的请求,往往需要多次调用下游服务、数据库、文件系统等,再将所有请求的数据进行处理最终的结果返回给上游。在这种模式下,使用串行模式去查询数据库,下游 Dubbo/Http 接口,文件系统完成一次请求,接口整体的耗时等于各个下游的返回时间之和,这种写法虽然简单,但是接口耗时长、性能差,无法满足 C 端高 QPS 场景下的性能要求。 线程池+Future异步调用 为了解决串行调用的低性能问题,我们会考虑使用并行异步调用的方式,最简单的方式便是使用线程池 +Future 去并行调用。典型代码如下:这种方式虽然解决了大部分场景下...
相关文章
文章评论
共有0条评论来说两句吧...
文章二维码
点击排行
推荐阅读
最新文章
- CentOS8安装MyCat,轻松搞定数据库的读写分离、垂直分库、水平分库
- CentOS8编译安装MySQL8.0.19
- CentOS6,CentOS7官方镜像安装Oracle11G
- CentOS7,8上快速安装Gitea,搭建Git服务器
- SpringBoot2整合Thymeleaf,官方推荐html解决方案
- MySQL8.0.19开启GTID主从同步CentOS8
- SpringBoot2更换Tomcat为Jetty,小型站点的福音
- Red5直播服务器,属于Java语言的直播服务器
- CentOS6,7,8上安装Nginx,支持https2.0的开启
- CentOS8,CentOS7,CentOS6编译安装Redis5.0.7