硬核博主用四台 Mac Studio 打造 AI 集群:1.5TB 统一内存、总价接近 4 万美元
YouTube 博主 Jeff Geerling 近日发布了一篇博文和一段视频,详细介绍了他使用 Mac Studio 打造 AI 集群的体验,主要展示了 Thunderbolt 5 接口在集群计算中的应用。 苹果最新 macOS 26.2 中加入了 RDMA(Remote Direct Memory Access) over Thunderbolt 5 支持,这让多台 Mac Studio 能够像共享同一块大内存一样协同工作。 简单来说,利用 RDMA,数台 Mac Studio 之间可以直接在内存层面高速交换数据,延迟明显降低(显著优于传统网络传输方式)。 这次测试中,Jeff Geerling 将 4 台配备统一内存的 Mac Studio 组合成一个“集群”,合计达到 约 1.5 TB 的内存池容量(每台机器共享内存,看起来像是拥有一块巨大的虚拟内存)。 用途与性能亮点 该内存融合技术对 运行超大 AI 模型有明显提升,特别是模型参数巨大的推理任务上表现出更流畅的数据交换。 RDMA 让各台机器间的数据访问延迟从数百微秒降到几十微秒级别,极大改善了协同计算效率。 使用开源项目 ...


