TS TypeSafe 文档中文版 原文 ↗

简介

Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。发送状态和带类型的问题;得到你的代码可以直接使用的结构化答案。

大语言模型(LLM)被设计用来生成供人阅读的文本。当你需要模型做出一个将由你的代码消费的判断时,这就产生了错配:你在把一个文本生成系统硬掰成输出结构化决策的样子,然后再把结果解析回某种你的代码可以依赖的东西。

Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。System One 模型被构建用来做出软件可以直接使用的快速、结构化决策。Jev 针对一个状态评估带类型的问题,并直接返回结构化结果。没有文本生成,没有解析。你得到的是带类型的值和概率分布,你的代码可以据此分支、排序和路由。Choice 和 Score 还会返回置信度,你的代码可以用它来决定是否以及如何根据某个答案行动。

%%{init: {"fontFamily": "Inter, sans-serif", "flowchart": {"rankSpacing": 35, "wrappingWidth": 300, "subGraphTitleMargin": {"top": 12, "bottom": 12}}}}%% flowchart LR input["状态 + 问题"] subgraph model["TypeSafe AI 模型"] evaluate["针对该状态<br/>并行评估<br/>每个问题"] end input -- "一次请求" --> model model -- "一次响应" --> answers["带类型的答案<br/>+ 概率<br/>+ 置信度<br/>(Choice 和 Score)"] answers --> code["<b>你的代码</b><br/>分支、排序和路由"]

TypeSafe 原语

TypeSafe 暴露三种AI 原语。与软件原语类似,我们的 AI 原语是模块化的、可组合的、结构化的、可靠且快速的。每一种都会提出不同类型的问题,并返回不同类型的答案。

问题类型 目标 返回
Choice 从列表中选择一个选项 choice, probabilities, confidence
Score 按评分标准给状态打分 score, probabilities, confidence
Noul 这个陈述是否为真? noul (0–1)

这三种问题类型都可以混在单个 API 调用中。每个问题都会一次性针对同一个状态并行且隔离地评估。增加问题几乎不会改变响应时间。每个问题都是独立评估的,因此增加更多问题不会造成上下文腐化。

原子化的问题,在代码中组合

当每个问题只询问一件具体的、范围明确的事情时,System One 模型表现最佳。把每个问题看作一次直觉判断:一种知识渊博的人在获得恰当上下文后几秒内就能做出的判断。

如果你想要提出的问题需要长篇推理,或者要权衡多个相互独立的因素,就把它分解开。把每个因素作为单独的问题来问,然后用你代码中的逻辑组合结果。这样能让每一次单独的评估保持可靠,并让你完全掌控各维度如何加权。

例如,与其问「给这份创业路演打分」,不如分别询问市场规模、技术可行性和差异化。用你自己的公式组合这些分数。当优先级发生变化时,改你代码里的一个系数,而不是重写提示词。

后续步骤

  • 快速开始 — 立即上手所需的一切。
  • AI 入门 — 为什么 TypeSafe 训练模型是为了做出校准过的决策,而不是生成文本。
  • 原语(问题) — 如何定义问题、在 Choice、Score 和 Noul 之间做出选择,以及一次提出多个问题。
  • 置信度 — TypeSafe 如何报告确定性,以及如何在架构上使用它。
  • 模式 — 使用 TypeSafe 构建系统的常见模式。