哑巴模型爆红:当 AI 不再生成文字,Agent 的"控制平面"正在独立
2026 年 9 月 15 日,TypeSafe AI 发布了一个新模型,叫 Jev。 它没有对话框,不能聊天,写不出一个完整的句子。你给它一段状态描述和几个问题,它不回答你,只回几个数字和一个选项。 就是这样一个"哑巴模型",在 Hacker News 上拿到了 1917 分、超过 500 条评论。LangChain 在两天后写了集成指南,Vercel 把它接进了 AI Gateway,社区里冒出一堆围绕它的实验项目。 一个不会说话的模型,为什么值得这么多人认真讨论? 它把"生成"这一步整个删掉了 我们先看现在的通行做法。假设要判断一条客服消息是不是紧急、该转给谁、用户情绪如何,常见写法是把消息丢给大语言模型,让它输出一段 JSON: ```json {"urgent": true, "department": "billing", "emotion": "frustrated"} ``` 程序拿到这段字符串,再解析、再校验 schema,然后才能用。TypeSafe 官方文档对这件事的说法很直接:我们在把一个擅长生成文本的系统,硬拗成输出结构化判断,然后再把结果解析回代码能依赖的形式——这本身就是一次错配。 Jev 的做法是把中间那步砍掉。调用方提交两块内容:`state`(需要判断的当前状态,可以是字符串、对象或数组)和 `questions`(针对状态提出的类型化问题)。返回的是结构化数值和概率分布,官方给自己的定义是一句话: Unstructured state in, typed probabilistic decisions out. 没有长文本生成,没有 JSON 解析,也不需要模型额外"写一句话解释一下"。它在文档里被称作 TypeSafe 的第一个 System One 模型——借用认知心理学里"快思考 / 慢思考"的比喻,生成式大模型负责慢思考,它负责毫秒级的直觉反应。 三种原语,都很小 Jev 目前只提供三种问题类型,官方叫 primitives: Choice:从调用方给出的候选项里选一个。返回 `choice`、`probabilities` 和 `confidence`。比如"这张工单该给哪个团队",候选是 billing / technical / human_review 三选一,它回你 `human_review 0.65`。 Score:按调用方给的评分标准(rubric)打分。比如风险等级 0 到 3,它返回分值和概率分布。 Noul:判断一个命题成立的程度,返回 0 到 1 的数值。你问"这个操作危险吗",它不回"我认为可能危险",而是直接给 `risk_probability = 0.87`,程序可以立刻写成 `if risk_probability > 0.8: require_confirmation()`。 三种问题可以在一次请求里混着问,彼此独立评估同一份 state,加问题几乎不增加响应时间。 这里有一个设计细节值得记下来:候选项不是模型在云端临时创造的,而是调用方给的。它们通常来自代码里的固定枚举、配置中心的规则、或者当前用户有权调用的工具集合。模型只在给定边界内判断"选哪个",而"能不能执行"仍然属于你自己的代码。 真正值得关注的不是快,是校准过的置信度 官方公布的典型推理延迟大约 70–500 毫秒,定价约每百万输入 token 0.042 美元,输出不收费——因为压根没有传统意义上的 output token 生成。相比一些传统模型,官方称在适合 System One 的任务上有几十倍到近两百倍的速度优势。 但速度其实不是重点。 重点是另一个词:Calibrated Confidence,校准过的置信度。 今天让大模型判断一件事,它很容易给你一句"我有 95% 的把握"。问题是,这个 95% 通常只是它生成出来的一段文本,不意味着它在长期上真的有约 95% 的正确率。Jev 用了一种叫 RLCD(Reinforcement Learning for Calibrated Decisions)的训练方式,训练目标除了"选对答案",还包括"知道自己有多确定"。 这件事对自动化的意义在于:成熟系统的控制流不该只有是 / 否两态,而应该是高置信自动执行、中置信再验证、低置信交给更强模型或人。置信度本身成为程序分支的一部分。 需要说清楚的是,这不解决"模型一定对"的问题。官方资料和多位实测者都强调过同一个边界:置信度阈值必须用你自己的数据去标定。有工程师在落地笔记里写得很直白——他把 0.9 设为本地采纳门槛,同时补了一句"0.9 是我们人为设定的门槛,绝不代表模型有九成的真实准确率"。 它不是替代 LLM,而是把 LLM 从一些位置上挪开 Jev 发布后,社区很快找到了几个稳定的落点,规律非常一致:大家几乎不让它写文