介绍SystemOne模型与Jev

Posted on Edited on

《介绍 System One 模型与 Jev》— 中文翻译

Reinforcement Learning

原文：Introducing System One Models & Jev 作者：Diogo Almeida，TypeSafe AI 创始人 发布日期：2026 年 9 月 出处：https://typesafe.ai/blog/introducing-system-one-models-and-jev，Diogo Almeida，创始人，TypeSafe

介绍 System One 模型与 Jev

语言模型在聊天上超越人类已有多年，那么自动化究竟在哪里？

这是我过去四年一直在追问的问题。在 OpenAI 时，我参与构建了让语言模型能够有效遵循指令、与人对话的方法。那项工作最终成为了 ChatGPT 背后的研究。当时我以为，也许聊天模型会通向 AGI，但尽管炒作不断，我越来越清楚地意识到：真正重要的东西缺失了。

在隐身模式（stealth）下度过两年、经历无数技术挑战与研究突破之后……我无比激动地宣布：今天，TypeSafe AI 发布我们的首个 System One 模型——一类全新的前沿模型，专为做出软件可以直接使用的、快速而结构化的决策而构建。

我们构建了一套全新的、完全聚焦于自动化（automation）的技术栈：全新的模型架构、追求最高效率的并行采样器，以及一种我们称之为”校准决策强化学习（Reinforcement Learning for Calibrated Decisions，RLCD）”的训练方法。

我们的首个公开模型是 Jev，今日开放早期访问。在 System One 类任务上，Jev 达到了与现有 LLM 相近的智能水平，同时快两个数量级、效率高出两个数量级。虽然 Jev 放弃了字符串生成（string generation），但它针对结构化输出做了优化，并且不可能产生幻觉。

把 Jev 想象成一个前沿智能的函数调用：输入非结构化状态（unstructured state），输出带类型的概率化决策（typed probabilistic decisions）。

非同寻常的主张需要非同寻常的证据，所以请看下文中的”收据”。

前沿，旧与新

现有 LLM System One + Jev
优化方法 基于人类反馈的强化学习（RLHF）／基于可验证奖励的强化学习（RLVR） 校准决策强化学习（RLCD）
优化目标 人类偏好：人类评分者更偏爱的文章与聊天回复。

可验证奖励：可被程序化验证的输出。		 校准决策：在 System One 任务上给出认识论上诚实的概率的答案。
输入 非结构化数据（如文本），强调顺序消息（sequential messages）。 非结构化数据（如文本），强调结构化程序状态（structured program state）。
输出 字符串／生成文本。 字符串灵活，可以是任何东西：聊天回复、代码、幻觉、拒答，甚至是类型安全的结构化值。要被软件使用，响应需要经过解析＋校验。而且总存在某种 AI 失控的风险。 类型安全的结构化值。 可能的输出与结构都预先定义。模型永不产生类型错误。所有答案都附带校准概率与置信度分数。
采样 顺序式。 一次生成一个 token，每个都以上一个为条件。 并行式。 在单次查询中生成全部输出。极其高效且对硬件友好。
成本 输入 token：$0.20 到 $10 / MTok。
输出 token：约为输入 token 的 5 倍。		 输入 token：$0.042 / MTok（每十亿 token $42）。
输出 token：免费（便宜到不值得计量）。
速度 前沿模型的端到端响应时间为 3 到 329 秒。对人机交互来说够快，但集成进代码时是巨大的瓶颈。 TypeSafe 的端到端响应时间为 70ms–500ms。对于 System One 形态的查询，在相同前沿智能水平下可快 40 倍–200 倍。
置信度 即便被要求给出置信度估计，模型也往往过度自信且不一致。如果一个模型有 95% 的时间能完成某任务，却不会在剩下 5% 的情况下说明，它就无法自动化该任务。 每个输出都始终传达置信度与不确定性。经过校准：更高的置信度意味着更高的准确率。更一致：相似输入返回相似答案。
用例 人在回路（human-in-the-loop）任务（聊天机器人、副驾驶、编程 Agent）。 通用且强大，但需要人类监督，因为其自由度也意味着它们可能失控。

可验证问题（数学证明、内核优化）。 当正确性可被廉价且自动地检查时，LLM 可以生成、测试并迭代，直到找到可行的方案。

演示（Demos）。 字符串的灵活性使它非常擅长快速制作”有时能用”的原型。		 AI 驱动的工作流 / 智能 if 语句。 结构化输出像模糊决策规则一样嵌入普通软件：分类、路由、打分、抽取，或在手写逻辑过于脆弱的地方进行分支。周围的代码约束了它们的自由度，使其更易组合成可靠的系统。

大数据上的 Map-Reduce。 将 PB 级数据转化为特征与洞见。

实时应用。 100ms 的速度意味着你可以在 UX 至关重要的应用中使用 AI。

验证一切。 对 LLM 的提示词、推理轨迹和／或输出进行打分、评判、验证、护栏与越狱检测。

证据 / 技术结果

我们喜欢怀疑者，我们自己就是怀疑者。

有些主张你可以轻松验证：

  • 单次调用速度： 我们确实有那么快，尽管我们公布的评测通常是在西海岸的笔记本电脑上跑的（我们的服务目前也部署在那里）。
  • 单次调用成本： 我们让定价透明。我们无法证明它没有被补贴；我们需要长期来证明我们定价的可持续性（我们预期价格会下降，而不是上涨）。
  • 无类型错误： 这本来很容易用一个反例就证伪，但它在数学上是不可能的。

对于那些更大胆的主张，我们希望尽可能提供细腻的说明。

并排演示

我们的并排演示展示了我们模型与 LLM 之间的一个关键差异：Jev 并行地输出所有概率，而不是自回归地逐 token 生成。字符串极其强大而通用，但代价高昂。”放弃”字符串实际上赋予了我们许多超能力！

细节说明
  • 对于拥有 TypeSafe 早期访问权限的人，这里是实际查询。
    • 该查询被高度简化，questions 被特意设计为带有描述性的、人类可读的键，以便屏幕上的输出易于理解。
    • state 也是一段简短、密集、详细的文字，以强调采样方法上的差异。相对更短的输入让我们的模型显得更有优势。
  • 对于眼尖的人：在录制的这次运行中，唯一与 GPT-5.6 Terra 的分歧在于”流失可能性等级（Churn likelihood level）”。在我们看来，那个真实答案确实是模棱两可的。
  • 此例中我们使用默认推理设置下的 GPT-5.6 Terra，因为我们发现它在平均智能水平上与 Jev 最具可比性。
  • 有趣的事实：一个类似的演示，正是让我们决定全力押注 System One 模型方向的原因！

工作流评测

我们创造了一种新型评测，用来衡量 AI 在代码内部工作的效果。我们不针对某个标准答案分类做优化，也不允许评测框架和模型发生变化（那可能通过”评测框架工程”导致过拟合）。相反，我们假设存在一张正确的计算图（一个用代码表示的”工作流（workflow）”），并以最大、最聪明、最昂贵的外部模型的预测作为参考概率。

换种说法：每个模型拿到相同的工作流。我们测试它们与最聪明模型（在此例中是 Astra 和 Fable）的平均值相比表现如何。

Jev 高得离谱——几乎在横跨两个数量级的范围内占据帕累托前沿（Pareto frontier）。我们也与那些把全部逻辑写进思维链（chain-of-thought）的提示词模型做了比较，但这类做法通常显著差于直接使用工作流本身。

注意，这里的调用比上面的并排演示要复杂得多。因为它们更能代表真正实现业务自动化所需的生产级工作负载。下面是我们公布的 4 条工作流中最简单的一条：

最可靠的现实世界工作流，往往包含许多相互独立的、分解后的问题，其细粒度行为依赖于概率而非离散决策。最终结果是离散的分支，但我们要得到最终答案，涉及大量必须高度一致地完成的领域特定工程。

详见我们的工作流评测网站：示例、分歧、完整查询，以及每条工作流。

细节说明
  • 我们首页上”快 193.6 倍、便宜 444.6 倍”的主张正来源于此，我们预期这些数字处于真实世界收益的偏高端。
  • 这些工作流的内容并非为了让我们模型显得好看而刻意挑选或构造，也不在我们的训练分布中。不过，它们是由我们模型能力团队的成员制作的，因此可能存在一些偏差。
  • 我们使用 GPT-6 Astra 与 Fable 5.1 的平均值作为参考答案，这会使答案偏向 OpenAI 和 Anthropic 的模型。我们很可能低估了自家模型以及 DeepSeek 系列模型的相对表现。
  • 这些 LLM 使用我们的 System One LLM 封装，该封装将 LLM 约束为输出与我们 API 兼容的结构化决策。我们发现这是从 LLM 获取决策的最准确方式，但这往往比不带概率地给出决策更慢、更贵。

幻觉与类型安全

幻觉与类型安全本质上相关，我们认为后者是自动化的入场券。一个产生幻觉的工具调用，在 Agent 里只是不便；但如果它是一个有延迟保证的系统的一部分，或者埋在依赖链的好几层深处，那就是绝对的致命伤。现有模型无论多聪明，仍会产生幻觉并出现类型错误。

细节说明
  • LLM 的数字来自 OpenRouter，也就是说这里几乎肯定存在偏差：更复杂的查询可能被路由到更好的模型。
  • 我们的数字不是经验性的。模式匹配（Schema matching）是有保证的，因此我们可以自信地在图中加入 0%。

有趣的演示

也许我们工作中最激动人心的部分，是开启新的用例。我们还有更多东西要展示给你，但以下是团队最喜欢的几个：

Doom

我们很喜欢这个 doom（毁灭战士）演示，它展示了实时智能，以及代码 + AI 能做到什么。背后的工程师曾担心每秒 10 次查询（最终约合 $7/小时的费用），但我们其余人都认为这比预期更低！它实在太有趣了，我们不仅打算发布一份深入的分步讲解，还打算举办一些活动来一起 hack 它。

细节说明
  • 该演示基于作为数据结构（含文本）的结构化状态，而不是图像（目前还不支持）。
  • 一个非 AI 的 doom bot 可能打得更好，但我们想要一个能对不同表示形式的游戏状态做出反应的 bot，而最重要的是……遵循指令实在太酷了！

Wikiracing（维基竞速）

这个游戏的目标是：从一个维基百科页面出发，仅使用你在浏览中遇到的链接，到达另一个指定的维基百科页面。每一步都可能意味着在数百到数千个链接中做选择！这是绝佳的试验场，不仅展示”每秒智能”，还展示在高基数选择下不产生幻觉所带来的复利收益。

细节说明
  • 据我们所知，第 2 和第 3 个挑战都以”Rubber Duck”开头纯属随机。作者是在团队指出后才注意到的。
  • 我们在这里的提速往往远小于之前的演示。因为这是在与模型的非推理模式竞争（Astra 除外，它被设为最低推理档）。这也是为什么 Jev 往往用更少的步数完成（智能更高的标志）。这样做是为了让演示更便于观看。若开启推理，这些 LLM 在此任务上的表现会差得多。
  • Jev 支持最高 255 的基数。对于更高的基数选择，我们采用两阶段系统：先独立打分，再做出显式选择，因此偶尔会有变慢。

下一步

我们仍处在 Jev 的早期阶段。我们还有大量产品在管道中，非常兴奋能够持续发布 🔥。

今天，我们开放早期访问，并尽可能快地把开发者从等待名单上放出来。我们想知道你需要自动化哪些决策、Jev 在哪些地方好用、在哪些地方不足。告诉我们你想构建什么样的科幻！

我们创办 TypeSafe，是因为我们相信 AI 需要一个软件可以依赖的接口。我们迫不及待地想看到新的用例*持续扩散（continuously diffuse）*到社区与经济之中。

我们也有 FAQ

“System One 模型”和”Jev”这两个名字从何而来？

我们受到了 Daniel Kahneman 的《思考，快与慢》（Thinking, Fast and Slow）启发。模型类名取自快速、直觉的”系统 1（System 1）”思维与缓慢、审慎的”系统 2（System 2）”推理之间的区分。

“系统 1 思维”也一直隐含着”容易出错”之意。出于我们未来会展开的原因，我们相信 System One 模型可以被做得比其他替代方案更可靠。

我们用 William Stanley Jevons 来命名 Jev。我们预期机器智能会走上与煤炭相似的路径——蒸汽机效率提升最终导致了对煤炭需求的增加。智能成本每下降一个数量级，就会解锁多出几个数量级的用例。

为什么需要一种新的训练算法？

每个实验室在基于人类反馈的强化学习（RLHF）阶段优化的都是同一个任务：产出人类评分者更偏爱的文本。对于聊天产品来说，这是正确的任务；但对于自动化来说，这是错误的任务。这就是我们所说的”最苦涩的教训（bitterest lesson）”：为正确的任务做优化，比数据、算力或算法都更重要。

RLVR 对于可用简单程序化验证的任务非常出色，但现实世界中大多数判断任务并不符合那种形态。这往往会导致尖刺式／不稳健的智能（spikey / non-robust intelligence）。

Jev 适合哪些用例？

我们已经在各行各业发现了 Jev 的多样化用例。我们在文档中列出了一些，也非常期待看到开发者们还能构建出什么。

Jev 只是一个更小的 LLM 吗？

Jev 既不”小”，也不是一个 LLM，因此它才会脱离智能的帕累托曲线。

Jev 在公开基准上表现如何？

我们刻意选择不公布在公开基准上的表现。事实上，我们计划只在做产品更新时发布一次性的评测（one-off evals）。

既然我们正在为模型开辟一片新前沿，我们就在推动一些更有用的最佳实践：

  • 不要给公开基准任何权重。
  • 鼓励用户为自己的用例创建自己的评测（System One 任务要容易评估得多）。
  • 披露你评测中的细微之处。
  • 即便你领先时，也要淡化基准的重要性。

关于我们围绕”为基准做优化”的哲学，见我们关于此话题的博文。

我们的训练数据从何而来？

TypeSafe 首先是一家数据研究实验室，而 AI 领域最重大的成果正是这样诞生的。所有数据都由我们自己制作。即便你要求，我们也不会拿你的数据来训练（无意冒犯）。我们做了一些相当复杂的事情，但如果你想了解更多，我们恐怕得把你招进来。

这些结果有点疯狂——怎么可能做到？

见我们关于”AI 最苦涩的教训”的博文。简短的回答是：你优化什么，就得到什么。LLM 被优化成出色的聊天机器人和副驾驶，这让它们在那类人在回路任务上超越人类。而我们优化的，是 System One 接口。