搜索[推理引擎]结果-低调大师优秀个人博客

精选列表

搜索[推理引擎]，共10000篇文章

AI下的软件开发思考：以推理速度交付产品？

早上看了一篇Andrej Karpathy转发的文章，作者是Peter Steinberger，文章是他2025年的个人编程总结：

2026-07-10

谷歌发布 Gemini 3.1 Flash-Lite，主推高性价比与高效推理

谷歌正式发布Gemini 3.1 Flash-Lite，作为其Gemini系列中最新一代轻量级多模态AI模型。该模型专为高吞吐、低复杂度任务设计，在成本与速度上显著优化：输入价格为每百万token 0.25美元，输出为1.50美元，远低于Gemini 3.1 Pro。性能方面，Gemini 3.1 Flash-Lite在内部测试中较前代Gemini 2.5 Flash提速45%，首token响应时间缩短至2.5倍更快。其支持最多100万token的上下文输入，可生成长达64,000 token的文本，包括可执行代码，适用于生成BI仪表盘等可视化资产。在11项基准测试中，该模型在6项中表现最优，超越GPT-5 mini与Claude 4.5 Haiku，并在博士级科学问答集GPAQ Diamond中取得领先。尽管在高难度HLA基准上得分为16%（Gemini 3.1 Pro为44.4%），其定位明确聚焦于翻译、内容审核、原型生成等高并发场景。目前，Gemini 3.1 Flash-Lite已在Google Cloud Vertex AI平台开放预览，并集成于Google AI Studio，供开发者通过自然语言快速构建应用。

2026-03-04

商汤开源 SenseNova-MARS：突破多模态搜索推理天花板

今日，商汤正式开源多模态自主推理模型 SenseNova-MARS（8B/32B 双版本），其在多模态搜索与推理的核心基准测试中以 69.74 分超越Gemini-3-Pro（69.06 分）、GPT-

2026-01-30

vLLM 推理 GPU 选型指南：显存、KV Cache 与性能瓶颈全解析

常见数据中心 GPU 的显存容量以下是当前主流推理 GPU 的物理显存上限，也是模型部署时不可突破的硬限制。

2026-01-23

DeepSeek V3.2 正式版：强化 Agent 能力，融入思考推理

新模型技术报告已同步发布： https://modelscope.cn/models/deepseek-ai/DeepSeek-V3.2/resolve/master/assets/paper.pdf 推理能力全球领先

2025-12-01

从 RAG 到 KAG ：结构化思考范式下的复杂推理

；领域适配难：行业术语、规则体系与通用模型存在语义断层；推理脆弱性：多步推理中易因知识缺失或逻辑断点导致结果偏差。

2025-11-28

Meta 研究人员揭开大语言模型黑箱，修复 AI 推理缺陷

Meta 的人工智能研究团队与爱丁堡大学合作，开发了一种新技术，能够预测大型语言模型（LLM）推理的正确性，并在发现错误时进行修复。

2025-10-31

蚂蚁开源首个万亿参数推理大模型 Ring-1T-preview

根据介绍，在大规模强化学习训练的早期，1T 语言基座的思考模型版本 Ring-1T 就已经表现出强大的自然语言推理思考能力。

2025-09-30

DeepSeek-V3.2-Exp 发布，训练推理提效，API 同步降价

作为迈向新一代架构的中间步骤，V3.2-Exp 在 V3.1-Terminus 的基础上引入了 DeepSeek Sparse Attention（一种稀疏注意力机制），针对长文本的训练和推理效率进行了探索性的优化和验证

2025-09-29

谷歌 DeepMind 开放具身推理模型 Gemini Robotics-ER 1.5

谷歌发布了其首款可广泛使用的机器人具身推理模型Gemini Robotics-ER 1.5，并将其定位为“机器人的高级大脑”。

2025-09-28

全球首个深度推理+多模态大模型“紫东太初”4.0 发布

全球首个“深度推理+多模态”大模型——“紫东太初”4.0在2025东湖国际人工智能高峰论坛上正式发布。

2025-09-19

Meta AI 发布 MobileLLM-R1：轻量级边缘推理模型

Meta AI 近日推出了 MobileLLM-R1，这是一系列轻量级边缘推理模型，目前已在 Hugging Face 上发布。

2025-09-16

BentoML 发布 llm-optimizer，LLM 推理和性能优化开源工具

BentoML近日发布了llm-optimizer，这是一个用于基准测试和优化 LLM 推理的开源工具。它支持多个推理框架，并兼容任何开源 LLM。

2025-09-15

微软团队提出“模拟光学计算机”，显著提升 AI 推理速度

论文链接：https://www.nature.com/articles/s41586-025-09430-z 据介绍，AOC 结合了模拟电子技术与三维光学技术，无需数字转换即可同时高效完成 AI 推理与组合优化任务

2025-09-04

微软开源轻量级推理模型 Phi-4-mini-flash-reasoning

微软发布了一款专为受限环境设计、参数量仅为3.8B的轻量级开源模型Phi-4-mini-flash-reasoning，其在数学推理任务上表现出色，且吞吐量大幅提升。

2025-07-11

DistillQwen-ThoughtY：通过变长思维链蒸馏，全面提升模型推理能力！

作者：蔡文睿（清素）、汪诚愚（熊兮）、严俊冰（玖烛）、黄俊（临在）前言自然语言处理领域因大语言模型（LLM）的突破发生重大变革，深度推理模型如 Open AI o1、DeepSeek-R1 等，通过思维链推理策略

2025-07-01

DistilQwen-ThoughtX：变长思维链推理模型，超越DeepSeek蒸馏模型

其中，进步尤其显著的是深度推理模型的发展，如 OpenAI 的 o1、DeepSeek-R1 和 QwQ-32B 等，它们在数学问题、代码生成等复杂推理任务中表现突出。

2025-05-30

个人开发者也能训练推理模型？GRPO 技术详解

编者按：还在为训练推理模型烧光算力预算而发愁？当开源小模型遇上数学题就"智商掉线"，如何低成本突破性能瓶颈？

2025-02-27

如何正确看待 AI 的推理能力？走出人类中心主义

编者按：人工智能真的能"推理"吗？我们是否正在用过于狭隘的人类思维，限制了对 AI 推理能力的认知？

2025-02-21

图解系列｜DeepSeek-R1的出众推理能力从何而来？

目录 01 回顾：大语言模型（LLMs）的训练方法 02 DeepSeek-R1 的训练步骤 2.1- 长推理链的 SFT 数据 2.2- 一个过渡性的、擅长推理的高质量大语言模型（但在非推理任务上表现稍逊

2025-02-10

资源下载

更多资源

Nacos

Nacos /nɑ:kəʊs/ 是 Dynamic Naming and Configuration Service 的首字母简称，一个易于构建 AI Agent 应用的动态服务发现、配置管理和AI智能体管理平台。Nacos 致力于帮助您发现、配置和管理微服务及AI智能体应用。Nacos 提供了一组简单易用的特性集，帮助您快速实现动态服务发现、服务配置、服务元数据、流量管理。Nacos 帮助您更敏捷和容易地构建、交付和管理微服务平台。

Spring

Spring框架（Spring Framework）是由Rod Johnson于2002年提出的开源Java企业级应用框架，旨在通过使用JavaBean替代传统EJB实现方式降低企业级编程开发的复杂性。该框架基于简单性、可测试性和松耦合性设计理念，提供核心容器、应用上下文、数据访问集成等模块，支持整合Hibernate、Struts等第三方框架，其适用范围不仅限于服务器端开发，绝大多数Java应用均可从中受益。

Rocky Linux

Rocky Linux（中文名：洛基）是由Gregory Kurtzer于2020年12月发起的企业级Linux发行版，作为CentOS稳定版停止维护后与RHEL（Red Hat Enterprise Linux）完全兼容的开源替代方案，由社区拥有并管理，支持x86_64、aarch64等架构。其通过重新编译RHEL源代码提供长期稳定性，采用模块化包装和SELinux安全架构，默认包含GNOME桌面环境及XFS文件系统，支持十年生命周期更新。

WebStorm

WebStorm 是jetbrains公司旗下一款JavaScript 开发工具。目前已经被广大中国JS开发者誉为“Web前端开发神器”、“最强大的HTML5编辑器”、“最智能的JavaScript IDE”等。与IntelliJ IDEA同源，继承了IntelliJ IDEA强大的JS部分的功能。