搜索[GPU算子]结果-低调大师优秀个人博客

精选列表

搜索[GPU算子]，共6979篇文章

聚焦深度学习应用浪潮发布基于Tesla GPU 加速器整机柜服务器

通过和全球视觉计算领域的领导者NVIDIA公司紧密合作，浪潮SmartRack 协处理加速整机柜服务器实现了在1U空间里完美部署4个Tesla GPU 加速器，实现“CPU+协处理器”协同计算加速，合理分配计算资源

2017-08-01

Elasticsearch 携手 NVIDIA cuVS 实现 GPU 加速的向量索引：10 分钟内完成 1.38 亿个向量索引

现代企业应用正在以 TB 到 PB 级规模摄取非结构化数据，以驱动语义搜索、基于大语言模型（LLM）的检索增强生成（RAG）以及推荐系统。在此数据规模下，基于 CPU 的向量索引可能需要数天甚至数周时间，从而拖慢实验进度，并使大规模索引更新的运维成本居高不下。这一问题对那些需要定期重建索引的工作负载尤为突出，例如由频繁的数据更新或嵌入模型更新所驱动的场景。例如，一些电商团队每晚刷新产品目录并训练自己的嵌入模型，每次更新都需要重建索引。

2026-09-29

AI Infra 系列 · 第三章存储层（上）：GPU 饿着不是算法问题，是账单问题

一个 72 卡的 NVIDIA NVL72 机柜，如果每张 GPU 需要 200 MB/s 的训练数据才不闲着，整个机柜需要 14 到 20 GB/s 的聚合存储带宽（书第 5 章）。

2026-08-24

8卡L20使用 --gpu-memory-utilization 0.5 提前为 MiniMax-H3 腾出显存

本文将详细分享如何通过 vLLM 的 --gpu-memory-utilization 参数，在单卡上安全地限制显存占用，提前为未来的模型腾出充足的呼吸空间。

2026-08-24

游戏美术远程渲染的两条技术路径：访问 GPU 工作站还是提交云渲染

实践中基本只有两条路：把渲染任务提交到云端渲染农场，或者远程访问一台 GPU 工作站。这篇文章拆解这两条路径的适用边界，以及落地时真正需要较真的技术参数。

2026-08-11

从 100% CPU 到接近 100% GPU：一次完整的 Ollama 本地大模型加速优化实录

问题确认：6GB 的小模型竟然也 100% 用 CPU 跑，显然不是显存不够的问题，而是 Ollama 根本没有识别到 GPU。

2026-08-10

Token重试、KV Cache与GPU闲置成本排查指南

不少团队在业务请求量持平的情况下，突然发现大模型 API 账单翻了一倍，排查方向却不是“访问量大了”，而是 Tokens 被隐形消耗、缓存未命中和 GPU 空转。

2026-07-24

英伟达Rubin GPU细节首曝：智能体AI性能提升10倍

7月22日消息，在GTC 2026正式发布之后，英伟达（NVIDIA）近日首次完整公开了Rubin AI GPU架构的技术细节。

2026-07-23

大模型GPU推理队列排队治理：限流规则+优先级调度+长短拆分+集群负载指南.172

不同于普通Web接口，大模型单次推理消耗大量GPU显存与算力，无法瞬时并发处理海量请求。

2026-07-21

Claude Code 限额翻倍，马斯克助攻把 GPU 送上门

原本为算力发愁的 Claude，忽然有了马斯克 22 万张 GPU 撑腰。这意味着什么？意味着代码写得更爽、跑得更久、不再动不动被踢下线。本文将从背景、安装到实战，拆解这次升级的含金量。

2026-07-20

用 eBPF 给 AI 推理服务做"CT"：从系统调用到 GPU 瓶颈的全链路追踪

团队用 nvidia-smi 看了 GPU 利用率，正常；用 PyTorch Profiler 看了模型内部，正常；看了应用层日志，也正常。

2026-07-18

深圳这场沙龙，用国产 GPU + 开源 OS 打通全栈路径

活动聚焦国产 AI Infra 全栈落地，围绕 OpenCloudOS、Cube Sandbox 沙箱、沐曦股份高性能 GPU 三大核心技术，汇聚了来自沐曦股份、腾讯云、OpenCloudOS 社区的技术专家与现场开发者

2026-07-11

苹果发布 Core AI 框架：整合 CPU、GPU 与神经网络引擎的设备端 AI 推理平台

Core AI的核心理念是将最新模型架构和推理技术与苹果自研芯片的异构计算能力相结合——CPU、GPU和神经网络引擎（Neural Engine）协同工作，根据任务负载自动分配计算资源

2026-06-09

Elasticsearch 中使用 NVIDIA cuVS 实现最高快 12 倍的向量索引速度：GPU 加速第 2 章

在索引构建期间，如果安装了 cuVS 库并且存在并配置了 GPU，Elasticsearch 将使用 GPU 来加速向量索引过程。向量会被交给 GPU，由其构建CAGRA图。

2025-12-09

国产 GPU 厂商沐曦股份科创板 IPO 获审议通过，拟融资 39.04 亿元

国产 GPU 厂商沐曦集成电路（上海）股份有限公司的科创板 IPO 获上市委会议审议通过。

2025-10-24

中国 GPU 厂商天数智芯拟赴港 IPO，募资或达 3-4 亿美元

天数智芯成立于2015年，专注于开发用于运行人工智能服务的GPU产品，是力图与英伟达展开竞争并提升中国芯片能力的数家初创企业之一。

2025-08-19

Ollama+GPU Operator 1 小时搞定

部署 GPU Operator 1.

2025-04-17

🍋 分布式运维监控平台 WGCLOUD v3.5.5 全新发布，支持 GPU 等监控

新增，主机GPU信息采集，查看 2. 新增，主机防火墙状态信息采集，查看 3. 新增，主机Crontab信息采集，查看 4. 新增，动环监控信息采集，查看 5.

2024-10-12

XSKY 对象存储深度结合 Alluxio 分布式缓存系统，GPU 利用率提高至 90% 以上

但是对象存储在数据访问性能方面也面临一系列挑战，特别在 AI 模型训练场景下，数据访问性能的增强，成为了提升 GPU 利用率的关键因素，市场亟需一个能够和对象存储有效结合，兼具对象存储优势且性能卓越的一体化解决方案

2024-06-05

行业内首次实现国产 GPU 从 0 到 1 的端到端 AI 大模型实训

摩尔线程、无问芯穹今天联合宣布，双方已经正式完成基于国产全功能 GPU 千卡集群的 3B 规模大模型“MT-infini-3B”实训，该模型基于摩尔线程国产全功能 GPU MTT S4000 组成的千卡集群

2024-05-27

资源下载

更多资源

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。