搜索[GPU算子]结果-低调大师优秀个人博客

精选列表

搜索[GPU算子]，共6959篇文章

训练千亿参数大模型，离不开四种GPU并行策略

1 数据并行数据并行是指将相同的参数复制到多个GPU上，通常称为“工作节点（workers）”，并为每个GPU分配不同的数据子集同时进行处理。

2022-06-15

GPU在外卖场景精排模型预估中的应用实践

作为主流的深度学习第二代框架，TensorFlow具备强大的模型表达能力，这也导致其算子粒度比较小，这一特点无论是对CPU还是GPU架构都会带来很大的额外开销。

2022-03-04

浅谈GPU虚拟化和分布式深度学习框架的异同

撰文 | 袁进辉经常有人来问我：GPU虚拟化和分布式深度学习框架的异同，以及是不是用GPU虚拟化技术也可以解决现在超大规模深度学习模型的分布式训练难题。

2021-07-17

快 2 倍，TFLite 推出基于 OpenCL 的 Android 移动 GPU 推理引擎

TensorFlow Lite 团队介绍了目前其使用 OpenCL在移动 GPU 推理上所取得的进展，并宣布正式推出基于 OpenCL 的 Android 移动 GPU 推理引擎，该引擎在大小合理的神经网络上可比现有的

2020-08-19

当 Mars 遇上 RAPIDS：用 GPU 以并行的方式加速数据科学

随着深度学习的流行，用来加速数据科学的新的硬件层出不穷，这其中最常见的就是 GPU，在深度学习前序流程中进行数据处理，我们是不是也能用上 GPU 来加速呢？

2020-04-12

阿里云GPU云服务器现已支持NVIDIA RAPIDS加速库

阿里云GPU云服务器现已支持NVIDIA RAPIDS加速库，是国内第一家提供RAPIDS加速库服务的公有云厂商。

2019-05-21

Serverless助力AI计算：阿里云ACK Serverless/ECI发布GPU容器实例

ACK Serverless（Serverless Kubernetes）近期基于ECI（弹性容器实例）正式推出GPU容器实例支持，让用户以serverless的方式快速运行AI计算任务，极大降低AI平台运维的负担

2019-05-05

AMD携阿里云提供AMD Radeon Pro GPU技术的云计算

Lisa Su）与阿里巴巴集团旗下阿里云公司总裁胡晓明共同宣布，两家公司将携手合作，加强对在阿里云全球数据中心中使用AMD Radeon™ Pro GPU技术的研究与合作。

2018-05-10

CNNdroid：在 Android 上利用 GPU 加速执行 CNN (卷积神经网络)

我们开发了CNNdroid这个GPU加速库，可以在Android设备上实现CNN网络的训练。通过实验，CNNdroid在移动设备上实现了60倍速的提升，以及130倍速的节能。

2017-08-01

NVIDIA GPU 为 Facebook 的新型深度学习机器提供处理动力

Facebook 是首家利用 NVIDIA Tesla M40 GPU 加速器来训练深度神经网络的企业，该加速器已于上个月发布。

2017-08-01

自主研发GPU！苹果为何在自研道路上越走越远？

的分析师大卫·坎特(David Kanter)表示，在经历多年的对图形设计师的网罗挖掘之后，苹果已经逐渐摆脱了自己原先对PowerVR图形处理器授权极度依赖的局面，开始为iPhone自主设计自己的定制化GPU

2017-08-01

ARM公司公布CPU与GPU更新计划——一切为了AI

芯片设计厂商ARM公司于本周一公布其基于DynamIQ微处理器架构的第一波处理器产品，同时亦提到经过调整的GPU芯片设计方案。

2017-08-01

有报道称，英特尔已经开始出货最新Kittson版本的安腾处理器芯片了。现有的安腾处理器是9500系列，代号为Poulson，在2012年推出的。现有在4个版本：9520、9540、9550和9560。 HPE在自己的高端Superdome 2服务器中采用安腾芯片，运行HP-UX操作系统，此前HPE表示将在今年推出一个更新的Kittson。HPE已经起诉Oracle，因为Larry不想再开发针对安腾服务器的软件了——因为销售量较低，现在，Oracle重点是大力开发云。我们的理解是，安腾是由英特尔开发来与IBM POWER以及Oracle/Sun SPARC处理器竞争的。但是，多处理器、多核的至强处理器开发，让大型机用户不愿意迁移到POWER/SPARC/安腾服务器的替代选择，公有云计算的崛起削弱了POWER/SPARC/安腾服务器市场。这样可以理解为，安腾服务器销售量拖累了POWER和SPARC服务器的销售，这三大服务器都远远落后于至强服务器的销售量。普遍认为英特尔可能会放弃安腾而专注于更为主流的至强和Knights Landing产品。因此Kittson可能是英特尔安腾处理器架构产品线的终点。安腾并没有提供比至强芯片更为强大的服务器。应用需要专门为运行在安腾上进行设计，HPE还要忍受开发安腾服务器硬件以及HP-UX软件的成本。总而言之，安腾服务器需要很高的开发、支持和运营成本，并且没有从安腾服务器迁移出来的轻松路径。另外要记住的一点是，HPE已经收购了HPE服务器提供商SGI，它的技术在共享内存方面与Superdome是重叠的。有人猜测说SGI和Superdome技术可能会有某种融合。当然HPE在今年底推出基于Kittson的Superdome之后还将支持安腾客户一段时间，至少要到2025年。但是目前还没有任何信息显示Kittson性能要由于Poulson安腾处理器，不过当HPE发布基于Kittson的Superdome的时候HPE将会公布。原文发布时间为：2017年2月16日本文作者：孙博本文来自云栖社区合作伙伴至顶网，了解相关信息可以关注至顶网。

2017-08-01

配置建议为什么总点名显卡：GPU 加速到底在算什么

Adobe Photoshop【PS】这类软件的配置建议里，总有一条会被单独点名：显卡。

2026-09-29

AI Infra 系列 · 第六章 GPU 性能工程（四）：并行策略

聊并行之前得先知道敌人是谁。训练时一个参数要占多少字节？混合精度 + AdamW 的标准配置下：

2026-09-18

让 2013 年的 GTX TITAN 跑本地 LLM — Kepler 架构 GPU 复活记

NVIDIA 在 CUDA 12.0 起彻底移除了对 Kepler 架构GPU的支持，而本地 LLM 推理框架llama.cpp早就只能用 CUDA 12 +了。

2026-09-15

KTransformers：让大模型在 CPU 与 GPU 之间学会更聪明地奔跑

尤其当模型越来越大、结构越来越复杂、显存和内存的边界越来越紧时，推理与微调就像一场精细的调度艺术：谁该待在 GPU，谁该去 CPU，哪些路径该被加速，哪些资源该被压榨到极致。

2026-07-20

Gooey：一个用 Zig 编写的 GPU 加速跨平台 UI 框架

（Vulkan/Wayland）和浏览器（WASM/WebGPU）三大平台，被定位为"GPU渲染优先"的现代 UI 基础设施。

2026-06-09

Kog AI 发布推理引擎：标准 GPU 实现 3000 tokens/s 单请求速度

Kog AI 日前发布了 Kog Inference Engine（KIE）技术预览版，在 8× AMD MI300X GPU 上实现单请求 3000 tokens/s 的生成速度，8×

2026-06-01

Xinference 1.16.0 支持瀚博 GPU 与持续批处理

🖥 异构硬件，快如闪电：通过 ggml，同时使用你的 GPU 与 CPU 进行推理，降低延迟，提高吞吐！

2025-12-30

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。

精选列表

训练千亿参数大模型，离不开四种GPU并行策略

GPU在外卖场景精排模型预估中的应用实践

浅谈GPU虚拟化和分布式深度学习框架的异同

快 2 倍，TFLite 推出基于 OpenCL 的 Android 移动 GPU 推理引擎

当 Mars 遇上 RAPIDS：用 GPU 以并行的方式加速数据科学

阿里云GPU云服务器现已支持NVIDIA RAPIDS加速库

Serverless助力AI计算：阿里云ACK Serverless/ECI发布GPU容器实例

AMD携阿里云提供AMD Radeon Pro GPU技术的云计算

CNNdroid：在 Android 上利用 GPU 加速执行 CNN (卷积神经网络)

NVIDIA GPU 为 Facebook 的新型深度学习机器提供处理动力

自主研发GPU！苹果为何在自研道路上越走越远？

ARM公司公布CPU与GPU更新计划——一切为了AI

HPE还将继续支持下一代Superdome GPU芯片

配置建议为什么总点名显卡：GPU 加速到底在算什么

AI Infra 系列 · 第六章 GPU 性能工程（四）：并行策略

让 2013 年的 GTX TITAN 跑本地 LLM — Kepler 架构 GPU 复活记

KTransformers：让大模型在 CPU 与 GPU 之间学会更聪明地奔跑

Gooey：一个用 Zig 编写的 GPU 加速跨平台 UI 框架

Kog AI 发布推理引擎：标准 GPU 实现 3000 tokens/s 单请求速度

Xinference 1.16.0 支持瀚博 GPU 与持续批处理

资源下载

腾讯云软件源

Nacos

Rocky Linux

WebStorm

欢迎您来访！