搜索[推理大模型]结果-低调大师优秀个人博客

精选列表

搜索[推理大模型]，共10000篇文章

DeepSpeed：大模型训练框架 | 京东云技术团队

背景：目前，大模型的发展已经非常火热，关于大模型的训练、微调也是各个公司重点关注方向。但是大模型训练的痛点是模型参数过大，动辄上百亿，如果单靠单个GPU来完成训练基本不可能。

2023-10-26

XAgent —— 基于大语言模型的自主智能体

XAgent 是一个开源的基于大型语言模型（LLM）的自主智能体，可以自动解决各种任务。它被设计为一个通用的智能体，可以应用于各种任务。目前，XAgent仍处于早期阶段，我们正在努力改进它。

2023-10-22

每日一博 | 语言大模型的进化轨迹

语言模型不仅仅能“预测文本”，它们的潜力可能远超想象。现在我们回顾一下语言模型的发展历程，从最初的朴素语言模型到目前基于Transformer的LLM（语言大模型）。

2023-10-01

百度发布首个量子领域大模型

在近日召开的2023量子产业大会上，百度量子计算研究所所长段润尧带来百度量子软硬件和解决方案等方面的最新成果，发布了首个量子领域大模型，及百度量子助手和量子写作助手两大AI原生应用；还发布了量子领域大模型白皮书

2023-09-26

首批 8 家 AI 大模型通过备案上线

8 月 31 日，百度、字节、商汤、中科院旗下紫东太初、百川智能、智谱华章等 8 家企业 / 机构的大模型产品已经首批通过《生成式人工智能服务管理暂行办法》备案，可正式上线面向公众提供服务。

2023-08-31

DB-GPT —— 数据库大语言模型

DB-GPT 是一个开源的以数据库为基础的 GPT 实验项目，使用本地化的 GPT 大模型与数据和环境进行交互，无数据泄露风险，100% 私密，100% 安全。

2023-05-29

国产中文大语言模型“天河天元”发布

国家超算天津中心在第七届世界智能大会上发布了天河百亿亿级智能计算开放创新平台和国产中文大模型——天河天元。中文大语言模型的数据集非常稀缺。

2023-05-21

AI大模型已经出现不可预测的能力

但是，随着LLM模型的不断扩大，研究人员最近才能够记录下这些能力。语言模型已经存在了几十年。直到大约五年前，基于所谓的递归神经网络，最强大的模型出现了。

2023-04-03

千亿参数开源大模型 BLOOM 背后的技术

假设你现在有了数据，也搞到了预算，一切就绪，准备开始训练一个大模型，一显身手了，“一朝看尽长安花”似乎近在眼前 …… 且慢！

2023-03-22

大模型排序流程透视（四）：生成与摘要——大模型如何把检索到的信息，变成推荐你的答案

用户最终看到的，不是一条链接列表，而是一段完整、流畅、带引用的文字答案。这段文字是流水线第四道工序的产物：生成与摘要（Generation & Synthesis）。

2026-09-22

破解大模型“裸奔”困局：海光底座+格尔大模型保险箱，打造AI全链路安全闭环

基于海光可信计算底座和格尔大模型保险箱，方案围绕模型与核心数据资产形成完整的机密保护闭环，为AI用户带来覆盖预训练、优化训练和推理的全生命周期安全底座。

2026-09-11

72万参数,打赢了大它500倍的模型:垂类场景的大模型训练,传统打法该改了

一家做垂类 AI 的团队,手里攥着几万条行业时序数据、几百个花大价钱标注的样本,照着主流打法把三条路都走了一遍:租卡微调开源大模型,效果起伏不定;换通用基础模型做零样本,分布对不上;咬牙想从零训一个,一算数据量

2026-09-01

AI 大模型首次牵手国民级综艺，昆仑万维天工 AI 联合《最强大脑》加速大模型落地

这是AI大模型技术与国民级综艺IP的首度深度合作，在节目中，「天工APP」将发挥其能搜、能聊、能写的多项超级AI大模型能力，与嘉宾选手深度互动，参与趣味脑力竞技环节，从而进一步推动大模型技术的普适应用，

2024-01-08

使用TensorRT 和多设备推理支持，跨多个 GPU 扩展 AI 推理

对于构建媒体生成工作流的推理开发者而言，面临的挑战是在不牺牲 NVIDIA TensorRT 为生产部署提供的关键优化 (如内核融合、内存规划和量化) 的情况下跨多个设备进行扩展。

2026-08-12

多模型智能路由，简单问题走小模型、复杂问题走大模型

我负责的 AIOps 平台每天处理 5000+ 次 AI 调用，全部走 Qwen2.5-72B，每月 API 费用约 1.2 万元。

2026-07-21

Google 发布 Gemini 4 Argon，物理推理模型直接控制机器人完成投掷、折纸任务

这是一个通用物理推理模型，在 ERQA 基准测试中得分 87%，超过所有前沿模型，可直接生成机器人控制代码、重建仿真环境、标注数据并进行自我改进。

2026-10-14

本地大模型常见异常全解：显存溢出、推理慢、驱动报错、环境冲突调试指南.181

本地大模型即脱离云端API调用，将开源大语言模型权重文件下载至个人电脑、工作站、服务器本地，依托本机硬件算力完成模型加载、上下文编码、文本生成全流程运算的部署模式。

2026-07-31

从推理模型到具身智能：veRL 为什么正在成为后训练基础设施

昨天《训推工坊：以 verl 代码库走读 AI Infra》第 24 篇《Checkpoint Engine：训练权重如何同步给推理引擎》刚刚发布。今天是周日，正好借这个节点做一次阶段总结。

2026-07-23

分布式推理全面升级，AI 模型效率大幅提升

Xorbits Inference（Xinference）是一个性能强大且功能全面的分布式推理框架。可用于大语言模型（LLM），语音识别模型，多模态模型等各种模型的推理。

2025-04-08

研究人员用 50 美元云计算资源训练出媲美 o1 的“推理”模型

据 TechCruch 报道，李飞飞等斯坦福大学和华盛顿大学研究人员以不到 50 美元的云计算资源训练出具备「推理」能力的人工智能模型。

2025-02-07

资源下载

更多资源

Mario

马里奥是站在游戏界顶峰的超人气多面角色。马里奥靠吃蘑菇成长，特征是大鼻子、头戴帽子、身穿背带裤，还留着胡子。与他的双胞胎兄弟路易基一起，长年担任任天堂的招牌角色。

腾讯云软件源

为解决软件依赖安装时官方源访问速度慢的问题，腾讯云为一些软件搭建了缓存服务。您可以通过使用腾讯云软件源站来提升依赖包的安装速度。为了方便用户自由搭建服务架构，目前腾讯云软件源站支持公网访问和内网访问。

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。