芯片架构师 Jim Keller：英伟达的 CUDA 不是护城河，是沼泽-低调大师

芯片架构师 Jim Keller：英伟达的 CUDA 不是护城河，是沼泽

2024-02-21 357

曾从事 x86、Arm、MISC 和 RISC-V 处理器研究的芯片架构师 Jim Keller 批评了英伟达的 CUDA 架构和软件技术栈，他认为 CUDA 是英伟达的沼泽而非护城河。

“CUDA 是沼泽，而不是护城河。x86 也是一片沼泽。[…] CUDA 并不美好，它是通过一次堆积一件东西来构建的。”

https://twitter.com/jimkxa/status/1758943525662769498

他指出，就连英伟达本身也有多个专用软件包，出于性能原因，这些软件包依赖于开源框架。

就像x86一样，CUDA在保持软件和硬件向后兼容性的同时逐渐增加了功能。这确保英伟达的平台完整且向后兼容，但它影响了性能并使程序开发变得更加困难。同时，很多开源软件开发框架可以比CUDA更高效地使用。

Jim Keller 写道：“基本上没有人编写 CUDA，如果你确实编写 CUDA，它可能不会很快。[...] Triton、Tensor RT、Neon 和 Mojo 的存在是有充分理由的。”

甚至英伟达本身也有不完全依赖 CUDA 的工具。例如，Triton Inference Server 是英伟达的一款开源工具，可简化 AI 模型的大规模部署，支持 TensorFlow、PyTorch 和 ONNX 等框架。Triton 还提供模型版本控制、多模型服务和并发模型执行等功能，以优化 GPU 和 CPU 资源的利用率。

英伟达的TensorRT是一种高性能深度学习推理优化器和运行时库，可加速英伟达 GPU上的深度学习推理。TensorRT 从各种框架（例如 TensorFlow 和 PyTorch）中获取经过训练的模型，并对其进行优化以进行部署，从而减少延迟并提高图像分类、对象检测和自然语言处理等实时应用程序的吞吐量。

尽管像Arm、CUDA 和x86这样的架构可能会被认为是沼泽，因为它们的演进速度相对较慢、必须向后兼容并且体积庞大，但这些平台也不像GPGPU这样分散，这可能根本不是一件坏事。

微信关注我们

原文链接：https://www.oschina.net/news/279549

转载内容版权归作者及来源网站所有！

低调大师中文资讯倾力打造互联网数据资讯、行业资源、电子商务、移动互联网、网络营销平台。持续更新报道IT业界、互联网、市场资讯、驱动更新,是最及时权威的产业资讯及硬件资讯报道平台。

MariaDB 可能会以 3700 万美元被私有化

MariaDB 董事会确认，已于 2024 年 2 月 15 日收到了来自加利福尼亚 K1 投资管理公司的临时收购要约。K1 于 2024 年 2 月 16 日公开宣布了这一要约。MariaDB 董事会正在审查可能要约并听取建议。这是一份非约束性的探索性提议，可能会根据未来几周的谈判进展而发生变化。该提议包括以每股 0.55 美元的价格购买所有 MariaDB 股票，按照该公司 2 月 5 日的收盘估值计算，约合 3700 万美元。拟定交易将通过爱尔兰法律安排计划进行，K1 或其附属公司将收购该公司 100% 的已发行股份。然而，K1 保留以合同要约的方式实施该提议的权利。尚未确定该提议将采取何种形式。值得一提的是，这一消息的发布正值该公司发生重大变化和动荡之际，新任首席执行官上任后，该公司进行了大规模裁员，并剥离了数据库即服务和地理空间业务。 2009 年，甲骨文公司斥资数十亿美元对 MySQL 进行了一系列收购，使 MySQL 实际上成为甲骨文公司的资产，MySQL 项目的创建者因此对 MySQL 的独立性产生了担忧，于是 MariaD B在 15 年前作为 MySQL 的一...

2024-02-21

342

转载自：中国电子报（ID：cena1984） 2023年，长期被冠以“低端”帽子的RISC-V架构，终于实现了高端化过程中的两个“小目标”：一个是单核性能走高，可与ARM Cortex-A7对标；另一个是应用场景拓展到PC领域，首台搭载RISC-V架构的笔记本电脑面世。如此势头下， 2024年RISC-V的发展似乎“一片坦途”。在数据中心市场“掘金” 为了实现“高端化”转型，RISC-V架构设计企业在持续尝试将市场拓展到对算力、稳定性等指标要求更高的领域。2023年，业界推出多个面向数据中心的RISC-V产品，其中包括算能科技流片业内首颗RISC-V服务器芯片SG2042、赛昉科技推出的超大规模总线IP“昉·星链-700”及256核RISC-V众核IP子系统平台。在数据中心领域，当前涌现了多家剑指服务器CPU的RISC-V初创公司。赛昉科技董事长兼CEO徐滔认为，不只是服务器CPU，“数据中心”市场可谓遍地是黄金，BMC芯片、存储芯片、AI加速器、DPU等都可以用RISC-V来做。“我认为， 2024年将有多款不同类型的RISC-V芯片在数据中心场景中量产落地。”徐滔向《中国电子...

2024-02-21

342

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。