简介
Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。发送状态和带类型的问题;得到你的代码可以直接使用的结构化答案。
大语言模型(LLM)被设计用来生成供人阅读的文本。当你需要模型做出一个将由你的代码消费的判断时,这就产生了错配:你在把一个文本生成系统硬掰成输出结构化决策的样子,然后再把结果解析回某种你的代码可以依赖的东西。
Jev 是 TypeSafe 的旗舰模型,也是第一个 System One 模型。System One 模型被构建用来做出软件可以直接使用的快速、结构化决策。Jev 针对一个状态评估带类型的问题,并直接返回结构化结果。没有文本生成,没有解析。你得到的是带类型的值和概率分布,你的代码可以据此分支、排序和路由。Choice 和 Score 还会返回置信度,你的代码可以用它来决定是否以及如何根据某个答案行动。
TypeSafe 原语
TypeSafe 暴露三种AI 原语。与软件原语类似,我们的 AI 原语是模块化的、可组合的、结构化的、可靠且快速的。每一种都会提出不同类型的问题,并返回不同类型的答案。
| 问题类型 | 目标 | 返回 |
|---|---|---|
| Choice | 从列表中选择一个选项 | choice, probabilities, confidence |
| Score | 按评分标准给状态打分 | score, probabilities, confidence |
| Noul | 这个陈述是否为真? | noul (0–1) |
这三种问题类型都可以混在单个 API 调用中。每个问题都会一次性针对同一个状态并行且隔离地评估。增加问题几乎不会改变响应时间。每个问题都是独立评估的,因此增加更多问题不会造成上下文腐化。
原子化的问题,在代码中组合
当每个问题只询问一件具体的、范围明确的事情时,System One 模型表现最佳。把每个问题看作一次直觉判断:一种知识渊博的人在获得恰当上下文后几秒内就能做出的判断。
如果你想要提出的问题需要长篇推理,或者要权衡多个相互独立的因素,就把它分解开。把每个因素作为单独的问题来问,然后用你代码中的逻辑组合结果。这样能让每一次单独的评估保持可靠,并让你完全掌控各维度如何加权。
例如,与其问「给这份创业路演打分」,不如分别询问市场规模、技术可行性和差异化。用你自己的公式组合这些分数。当优先级发生变化时,改你代码里的一个系数,而不是重写提示词。