System One
System One 模型为软件做出快速、结构化的决策。Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。
System One 模型是一类 AI 模型,它们被构建出来,用于做出软件可以直接使用的快速、结构化决策。一个 System One 模型会评估一个状态,并返回带类型的答案和概率。
Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。
与大语言模型(LLM)一样,System One 模型能理解自然语言输入。它返回的是带类型的决策和概率,而不是生成的文本。
Jev 目前只接受文本输入。它评估字符串、JSON 对象和文本数组。图像、音频和视频(尚)不支持。
它与 LLM 有何不同
System One 模型是为校准过的决策而训练的:它们的概率针对实际结果进行优化,以反映不确定性。校准是在预测分组上度量的;它并不保证单个答案是正确的。
System One 模型不撰写回复、不生成代码,也不解释自己的推理过程。你通过原语来定义可能的答案:
| 原语 | 问题 | 示例答案空间 | 示例输出 |
|---|---|---|---|
| Choice | 应该由哪个团队处理这张工单? | billing、technical 或 account |
choice: "billing" |
| Score | 这位客户有多沮丧? | 0 = 平静,1 = 沮丧,2 = 非常沮丧 | score: 1.4 |
| Noul | 这条消息是否要求退款? | True 或 false | noul: 0.95 |
这些只是示例性的配置和取值。各原语页面描述了可用的配置选项和完整的响应字段。
阅读 AI 入门 了解 System One 模型如何工作、如何训练。
System One 这个名字来自 Daniel Kahneman 在其著作 Thinking, Fast and Slow 中普及的概念。系统 1 的思考快速而直觉。系统 2 则更慢、更有意识。在这里,强调的是快速、聚焦的判断。
更大工作流中的快速判断
对于一次退款请求,你的应用可以:
- 构建一个状态,其中包含客户的消息、相关交易和退款政策。
- 同时提出彼此独立的问题:是否请求了退款、证据是否表明存在重复扣款,以及政策是否支持退款。
- 把答案与代码中的确定性检查结合起来,然后为该案例路由到执行或复核。
在看过原语的实际运用之后,你就可以把它们组合成一个更大的系统。由于 System One 模型返回的是带类型、受约束的输出而不是自由形式的文本,你的代码可以检查并组合它的答案,形成可预测的工作流。完整工作流见如何使用 TypeSafe 构建。
System One 模型的答案还包含置信度,因此你可以决定何时采取行动、何时升级给人工或推理模型。
调用 System One 模型
通过我们的某个客户端 SDK 或 HTTP API 中的 POST /v1/systemone 来调用 System One 模型。model 字段选择由哪个模型处理该请求。本文档中的示例使用 jev-latest,它也是 SDK 的默认值。可用模型、价格和别名见模型。