TS TypeSafe 文档中文版 原文 ↗

System One

System One 模型为软件做出快速、结构化的决策。Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。

System One 模型是一类 AI 模型,它们被构建出来,用于做出软件可以直接使用的快速、结构化决策。一个 System One 模型会评估一个状态,并返回带类型的答案和概率。

Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。

与大语言模型(LLM)一样,System One 模型能理解自然语言输入。它返回的是带类型的决策和概率,而不是生成的文本。

注意

Jev 目前只接受文本输入。它评估字符串、JSON 对象和文本数组。图像、音频和视频(尚)不支持。

它与 LLM 有何不同

System One 模型是为校准过的决策而训练的:它们的概率针对实际结果进行优化,以反映不确定性。校准是在预测分组上度量的;它并不保证单个答案是正确的。

System One 模型不撰写回复、不生成代码,也不解释自己的推理过程。你通过原语来定义可能的答案:

原语 问题 示例答案空间 示例输出
Choice 应该由哪个团队处理这张工单? billing、technical 或 account choice: "billing"
Score 这位客户有多沮丧? 0 = 平静,1 = 沮丧,2 = 非常沮丧 score: 1.4
Noul 这条消息是否要求退款? True 或 false noul: 0.95

这些只是示例性的配置和取值。各原语页面描述了可用的配置选项和完整的响应字段。

阅读 AI 入门 了解 System One 模型如何工作、如何训练。

注意

System One 这个名字来自 Daniel Kahneman 在其著作 Thinking, Fast and Slow 中普及的概念。系统 1 的思考快速而直觉。系统 2 则更慢、更有意识。在这里,强调的是快速、聚焦的判断。

更大工作流中的快速判断

对于一次退款请求,你的应用可以:

  1. 构建一个状态,其中包含客户的消息、相关交易和退款政策。
  2. 同时提出彼此独立的问题:是否请求了退款、证据是否表明存在重复扣款,以及政策是否支持退款。
  3. 把答案与代码中的确定性检查结合起来,然后为该案例路由到执行或复核。

在看过原语的实际运用之后,你就可以把它们组合成一个更大的系统。由于 System One 模型返回的是带类型、受约束的输出而不是自由形式的文本,你的代码可以检查并组合它的答案,形成可预测的工作流。完整工作流见如何使用 TypeSafe 构建。

System One 模型的答案还包含置信度,因此你可以决定何时采取行动、何时升级给人工或推理模型。

调用 System One 模型

通过我们的某个客户端 SDK 或 HTTP API 中的 POST /v1/systemone 来调用 System One 模型。model 字段选择由哪个模型处理该请求。本文档中的示例使用 jev-latest,它也是 SDK 的默认值。可用模型、价格和别名见模型。

从状态开始准备输入,并从原语(问题)开始探索你可以提出的问题类型。