搜索[h100]结果-低调大师优秀个人博客

精选列表

搜索[h100]，共133篇文章

一张 H100，怎么同时喂饱 7 个业务？

上个月我在一个智算项目里遇到个典型场面：客户花六位数弄来一张 A100，就为了跑一个不大不小的模型推理。我随手看了眼监控——好家伙，GPU 利用率长期在 30% 上下晃。客户还挺纳闷："陈老师，我这不都买最贵的卡了么，怎么还这么闲？"我说：卡没闲着，是你没让它"分身"。很多人以为"虚拟化"是云计算的标配，CPU 切虚拟机那是二十年前就成熟的事。但把 GPU 切开分给多个业务，难度比切 CPU 高了一个数量级。这篇文章就把这层底揭一下——顺便给你一个能直接用的选型框架。

2026-07-25

怎样在 10k 个 H100 GPU 上训练模型？

编者按：怎样在 10,000 个 H100 GPU 上训练大模型？如何充分利用每一块 GPU 的算力？如何在这个复杂的 GPU 网络中高效传递数据？

2024-10-28

英特尔发布 AI 芯片 Gaudi 3，性能远超英伟达 H100

该公司声称，新款Gaudi 3芯片与英伟达H100芯片相比，推理能力平均提高50%，能效平均提高40%，运行人工智能模型的速度是H100的1.5倍。

2024-04-10

巅峰对决：英伟达 V100、A100/800、H100/800 GPU 对比

从上图中就可以看出，V100 是前一代的“卡皇”，而 H100 则是新一代的“卡皇”。

2023-11-08

下一代英伟达H100 GPU发布时，国产芯片能追上吗？

媒体已经有很多关于H100的介绍，对H100的技术进行详细报道，例如芯东西标题为《800亿晶体管核弹GPU架构深入解读，又是“拼装货”？》

2022-04-15

英伟达发布 AI 芯片 H200

英伟达昨晚正式发布了 AI 芯片 H100 GPU 的后续产品 HGX H200 GPU，可大幅提高大语言模型的能力。

2023-11-14

3 分钟了解 NVIDIA 新出的 H200

这次 NVIDIA 宣布的 H200，其实就是配备 HBM3E 内存的独立 H100 加速器的更新版本。

2024-01-24

英伟达或将推出针对中国区的最新改良版 AI 芯片

知情人士称，最新三款芯片是由 H100 改良而来，英伟达最快或将于本月 16 号之后公布，国内厂商最快将在这几天拿到产品。

2023-11-09

GPU 维修，一个百亿市场是如何形成的？

新规的核心条款之一，就是对英伟达的旗舰产品——A100 和 H100 芯片及其相关技术（如组成大型服务器的 HGX模组）实施严格的出口管制。

2025-07-18

何时 AI 变得更"贵"？——任务密度、上下文与能耗交叉点实验

三类任务具有不同的对话密度、上下文长度、输出要求和错误修正次数；AI 侧以 Qwen3 32B - B200、Llama 3 70B - H100 和 Llama 3 405B - H100 三个公开能耗锚点进行条件化计算

2026-07-30

英伟达新款芯片 Blackwell 问世，AI 性能最高跃升 30 倍

据悉，这款新型芯片的性能相较于前代产品H100有着惊人的提升，最高可达30倍。

2024-03-19

李飞飞创业公司 World Labs 发布实时生成式世界模型 RTFM

斯坦福大学教授李飞飞创业公司 World Labs 发布了全新实时生成式世界模型RTFM（Real-Time Frame Model），称这是一个实时、持持续运行且保持3D一致性的生成式世界模型，亮点是可在单个H100

2025-10-17

青岛发布国内首个全模态实时交互大模型 VisualGPT

青岛智能体训练平台提供 1000 张A100/H100 混合算力与10PB多模态数据，面向企业、高校及个人开发者免费开放申请， 2026 年计划扩容至 5000 张H100，打造北方最大AI训练集群。

2025-11-24

美国政府限制向中国出口 NVIDIA H800 GPU

早期的限制禁止销售 NVIDIA H100，该处理器是 OpenAI 等美国人工智能公司的首选处理器。

2023-10-18

黄仁勋基金会向 CoreWeave 购买 1.08 亿美元算力并捐赠给高校

凭借丰富的 H100、H200 系列芯片储备，CoreWeave 已发展为全球最大的 GPU 云服务商之一，客户包括多家 AI 头部企业。

2026-05-14

AI 推理服务是否真的无利可图？从第一性原理看 AI 推理成本

文章通过第一性原理，以 H100 GPU 集群为例，详细拆解了输入与输出 token 的成本结构，指出输入处理成本极低（每百万 token 约 0.001 美元），而输出生成成本较高（每百万 token

2025-10-17

从 MLPerf Storage v2.0 看 AI 训练中的存储性能与扩展能力

在 CosmoFlow 负载中，JuiceFS 支撑了 10 节点共 100 张 H100 GPU 的训练规模，GPU 利用率为 75%。

2025-09-17

模型越大越聪明？边缘 AI 推理别再“硬堆配置”，量化才是破局关键

云端服务器上几个 A100、H100 跑大模型很轻松，但换成工厂里的工业网关、摄像头盒子、智能终端，情况完全不一样。

2026-08-11

聊聊 GPU 产品选型那些事

说起 GPU，绕不过的当然是 NVIDIA 这个公司了，现在市面上火热的 A100/A800、H100 等 GPU 全是他家的产品。

2023-11-09

HeteroFlow 异构算力调度平台于 2026 年 8 月 8 日推理服务正式发布

2. 9 种 GPU 厂商统一纳管厂商代表型号通信库/SDK推理引擎NVIDIAA100 / H100 / H20 / T4 / P4NCCL / NVMLvLLM、SGLang、llama.cpp华为昇腾

2026-08-09

资源下载

更多资源

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

Sublime Text

Sublime Text具有漂亮的用户界面和强大的功能，例如代码缩略图，Python的插件，代码段等。还可自定义键绑定，菜单和工具栏。Sublime Text 的主要功能包括：拼写检查，书签，完整的 Python API ， Goto 功能，即时项目切换，多选择，多窗口等等。Sublime Text 是一个跨平台的编辑器，同时支持Windows、Linux、Mac OS X等操作系统。