JJev Cookbook
课程首页 中文文档 拓展阅读 GitHub ↗

拓展阅读 / Jev 深度研究报告

知识库收录材料 · 原始文件 ↗ · 来源、版本与许可

Jev 深度研究报告:从“生成语言”转向“机器决策”的 System One 模型

执行摘要

资料截止:2026 年 9 月 20 日。 Jev 是 TypeSafe AI 于 2026 年 9 月 15 日开放 early access 的首个 “System One Model”。与 GPT、LLaMA、Claude、PaLM 这类以生成 token/string 为基本接口的大语言模型不同,Jev 主动放弃开放式文本生成,将模型接口限制为 Choice、Score、Noul 三类有类型、带概率的决策原语。TypeSafe 将其核心技术描述为“新模型架构 + parallel sampler + Reinforcement Learning for Calibrated Decisions(RLCD)”。但截至本次检索,没有找到公开的 Jev 技术论文、完整 model card、模型权重或训练代码;层数、hidden size、参数量、是否 MoE、attention 形式、tokenizer、RLCD 奖励函数和优化算法均未公开。创始人在 TechCrunch 采访中确认 Jev 基于 Transformer,并表示训练使用合成数据,但拒绝披露更具体架构。citeturn24view0turn10view0turn18search26

核心判断本报告结论
Jev 最确定的创新是什么?不是已被公开证明的全新神经网络基础架构,而是“决策专用训练 + 非字符串输出接口 + 并行决策采样 + 显式概率 + 代码编排”的整体系统设计。底层到底创新到什么程度,因架构未披露,目前无法独立验证。citeturn24view0turn15view0
速度优势是否真实?在 Jev 所针对的窄型决策任务上,证据相当强:官方给出约 70–500 ms;MindStudio 实测模型 evaluation time 约 92–214 ms;Every 的测试为 0.35 s/文本,而 Claude Fable 5.1 为 8.83 s;一个中文 130 样本独立测试为约 890 ms。具体倍数受网络、任务及比较方式影响。citeturn24view0turn22view2turn22view0turn21view0
准确率是否超过 frontier LLM?没有足够证据支持。 TypeSafe 工作流 benchmark 的公开点位转录显示 Jev 约 67.8%,几乎追平 GPT-5.6 Terra 的 67.9%,但低于 GPT-5.6 Sol 的 74.1% 和 Claude Opus 5 的约 73.1%。Every 的缺陷检测实验中 Jev 找出 7 个问题中的 6 个,Fable 5.1 找到 7/7。Jev 的主要优势是“接近某些 frontier 决策质量、但成本/延迟低几个数量级”,而不是最高绝对准确率。citeturn24view3turn7search0turn14search4turn22view0
193.6× 快、444.6× 便宜是否可以直接泛化?不能。 TypeSafe 自己明确说这两个数字来自其四个工作流 benchmark,并属于“现实增益的较高端”;比较器还要求传统 LLM 输出完整概率和结构化结果,这会使 LLM 更慢、更贵。用公开点位匹配最近的 GPT-5.6 Terra,则约为 25.3× 延迟优势、76× 成本优势。citeturn24view1
“零幻觉”是否等于不会犯错?不是。 Jev 可以保证不产生 schema 外类型值,但仍可在合法选项中选择错误答案。MindStudio 甚至测试出:没有 other 选项时,无关问题被迫选成 sales,置信度 0.31。TypeSafe 也说明其图中的 0% 是结构约束推导出的值,并非语义错误率实验结果。citeturn24view1turn22view2
最可能的产品定位?Jev 更像一个通用可编程判断器 / probabilistic if-statement / agent critic,而非 GPT/Claude 替代品。最优架构很可能是“强 LLM 做规划与生成 + Jev 高频判断/路由/验收 + 确定性代码做计算与执行 + 低置信度进入强模型或人工”。这一定位与 TypeSafe 官方工作流设计及早期独立实验一致。citeturn24view3turn15view0turn22view0

因此,本报告的总体判断是:

Jev 的突破目前最有说服力的是“intelligence-per-second / intelligence-per-dollar”,而非已经证明的“intelligence ceiling”。

它把很多过去用一个完整 LLM generation 完成的任务,重定义为:一次读取状态 → 同时完成几十乃至数百个窄判断 → 返回概率 → 由普通代码组合为动作。这很可能构成重要的新型 AI 软件原语;但在官方公开 RLCD 公式、模型参数、标准 benchmark、校准指标和独立大样本复现之前,不宜把它描述为已经证明的新一代通用基础模型架构。citeturn15view0turn24view1turn23view1

方法与数据来源说明

本研究将证据分为三个等级。一级证据为 TypeSafe 官方 launch blog、API 文档、公开 workflow eval、SDK 和 System One adapter;这些最适合确认 Jev 的接口、官方训练范式名称、定价、官方 benchmark 方法和产品限制。TypeSafe 官方 GitHub 当前公开的主要是 SDK、skills 和 LLM 对照 adapter,而不是 Jev 模型权重或训练实现。citeturn18search30turn18search10turn18search38

二级证据包括 TechCrunch 对创始人 Diogo Almeida 的采访、Every 评测负责人 Mike Taylor 的 hands-on 测试和 MindStudio 实测。这些来源特别重要,因为它们可用于区分“厂商宣称”与“第三方实际观测”。TechCrunch 的采访提供了少数官方页面未披露的信息:Jev 是 Transformer-based,创始人称训练数据全部为 synthetic data,但具体架构仍被保密。citeturn10view0turn22view0turn22view2

三级证据用于补充数值或社区复现,包括 Judgekit 的 130 个手工标注中文样本,以及第三方对 TypeSafe benchmark dashboard 点位的数值转录。Judgekit 的数据和逐样本错误已公开,但样本量仍很小,不能视为学术 benchmark;四工作流中部分绝对数值因为 TypeSafe 官方文本页只呈现交互图而未打印数字,本报告会明确把第三方转录值与官方方法论区分开。citeturn21view0turn24view3turn7search5

对传统架构的比较优先使用原始论文:GPT-3 是 175B 参数 autoregressive language model;原始 LLaMA 为 7B–65B、训练于 trillions of tokens;PaLM 是 540B densely activated Transformer,并使用 6144 个 TPU v4 进行训练。这些模型主要用于建立架构参照系,而不是暗示 2026 年当前 GPT/Claude 与这些历史模型具有相同参数规模。citeturn17academia41turn17search5turn17academia39

一个关键研究限制是:Jev 发布仅数日,公开证据仍以厂商材料和少量工程测试为主。 因而本报告会将无法可靠获得的信息统一标为“未公开/未说明”,而不是通过延迟倒推出模型大小或通过营销材料猜测训练算法。TypeSafe 自己也承认其定价长期可持续性尚不能证明,其 workflow benchmark 由内部 model-capabilities 团队制作并可能存在偏差。citeturn24view1

算法原理与主流大模型的核心差异

Jev 的公开接口可以概括为:

\[

(\text{state},\{q_1,\ldots,q_m\})\longrightarrow

\{a_1,\ldots,a_m\},

\]

其中每个问题 $q_i$ 都独立面对同一份 state,并属于 Choice、Score 或 Noul 之一。TypeSafe 文档明确表示,同一请求内的问题彼此独立、并行评估,一个问题的答案不会成为另一个问题的隐藏上下文;真正有因果依赖的下一步判断需要由代码发起第二次请求。官方建议把复杂判断拆成多个“一个懂行的人一秒钟可以做出的判断”,再由普通程序组合结果。citeturn15view0

Text
flowchart LR
    A["State<br/>文本、JSON、程序状态"] --> C["Transformer-based Jev 核心<br/>层数/参数/Attention:未公开"]
    B["Choice / Score / Noul<br/>多个独立问题"] --> C
    C --> D["Parallel Sampler<br/>具体实现:未公开"]
    D --> E["Choice 概率分布"]
    D --> F["Score 概率分布 + 连续分数"]
    D --> G["Noul: P(Yes)"]
    E --> H["普通代码<br/>阈值、规则、branch、加权"]
    F --> H
    G --> H
    H --> I["动作 / 路由 / 升级人工"]
    H -. "后续问题真的依赖前一步时" .-> A

图中能得到公开证据支持的是“Transformer-based”“parallel sampler”“typed probabilistic decisions”和“代码编排”;不能从公开材料推断 parallel sampler 究竟是一个 Transformer forward pass、多个固定迭代、特殊 heads 还是其他实现。 官方只说所有输出可在一次 query 中并行采样,而不是公布其计算图。citeturn24view0turn10view0

Choice 的接口数学含义非常清楚。给定 $K$ 个候选选项:

\[

\mathbf p=(p_1,\ldots,p_K),\qquad

p_i\ge0,\qquad

\sum_{i=1}^{K}p_i=1,

\]

并返回

\[

\hat y=\arg\max_i p_i.

\]

官方文档明确规定 choice 是概率最大的选项,并同时返回完整 probabilities 和 confidence。Choice 最多支持 255 个选项;更大候选空间官方 Wikiracing demo 使用“两阶段:独立 scoring 后再 explicit choice”。citeturn16view0turn24view2

Score 更有意思,因为其数值公式已经公开。若 level 编号为 $0,\ldots,K-1$,模型输出对每一级的概率 $p_k$,则:

\[

\boxed{\text{score}=\sum_{k=0}^{K-1} k\,p_k}

\]

例如 $(p_0,p_1,p_2)=(0,0.7,0.3)$ 时:

\[

\text{score}=0\times0+1\times0.7+2\times0.3=1.3.

\]

因此 Score 并非模型直接“生成一个 1.3”,而是对离散 level 概率分布取期望;这一机制使连续排序和阈值决策很自然。citeturn16view1

Noul 则直接输出:

\[

p_{\rm yes}=P(Y=\text{Yes}\mid s,q)\in[0,1].

\]

它没有额外 confidence 字段;0.5 表示 yes/no 概率接近,不能被解释成“中等程度”。citeturn15view0turn16view2

Choice/Score 的 confidence 可抽象为

\[

c=g(\mathbf p),\qquad 0\le c\le1,

\]

官方只透露它由概率分布的“尖锐/平坦程度”计算:概率集中时较高,分散时较低。函数 $g(\cdot)$ 的精确公式未说明。 因而不能假定它就是 $\max p_i$、entropy 的线性变换或 margin。citeturn16view0turn16view3

TypeSafe 所称“calibration”可用标准概率校准条件表达为:

\[

P(Y=k\mid \hat p_k=p)\approx p,

\]

或二元情况下:

\[

E[Y\mid \hat p=p]\approx p.

\]

直观含义是:模型给出约 0.8 概率的一大组判断,长期看应约有 80% 成立。TypeSafe 文档明确采用这种群体频率解释。但公开资料没有给出 Jev 的官方 ECE、Brier Score、NLL 或 reliability diagram,因此“概率已经充分校准”目前仍缺乏标准量化证据。citeturn13view0turn21view0

RLCD 可以抽象写成:

\[

\theta^*=

\arg\max_{\theta}

E_{(s,q,y)\sim D,\;a\sim\pi_\theta}

\left[R_{\rm cal}(a,y)\right],

\]

但必须特别强调:这只是本报告为说明问题而写出的通用 RL 形式,并不是 TypeSafe 公布的 RLCD 公式。 R_cal 如何定义、概率校准怎样进入 reward、是否使用 PPO/GRPO/REINFORCE、是否存在 KL penalty、critic、reward model、online rollouts、蒸馏或多 teacher,全部未公开/未说明。TypeSafe 仅公开表示 RLCD 的目标是优化 calibrated decisions,而不是自然语言 response preference。citeturn24view0turn13view0

与主流模型的本质差异如下。

维度JevGPT 系列LLaMA 系列Claude 系列PaLM
核心形态Transformer-based,但具体结构未公开;官方称有“new architecture + parallel sampler”经典公开 GPT-3 为 175B autoregressive LM;当前闭源 GPT 的精确结构/参数通常未公开原始 LLaMA 为 7B–65B Transformer foundation LM当前内部参数量与具体层结构未公开/未说明540B densely activated Transformer
原始输出空间预定义的 typed decisionstoken/stringtoken/stringtoken/stringtoken/string
训练核心目标RLCD:calibrated decision;具体 loss/reward 未公开自回归语言建模;对齐阶段可再训练自回归语言建模,再做 instruction/alignment生成式语言模型;当前具体训练配方未公开language modeling
输出推理同一 state 下多个问题并行,非逐字构造 JSON输出 token 依赖先前 token,decode 是串行 critical path同左同左同左
参数利用参数量、active params、dense/MoE 未说明GPT-3 为 non-sparse 175B;当前 GPT 未说明原始 LLaMA 为 dense 型参数规模 7–65B未说明540B densely activated
状态管理每次显式传入 state;同一 call 问题互不依赖;依赖判断需新 call上下文/消息被编码进 token sequence,输出持续依赖已生成 token同类同类同类
决策方式原生输出 $P(y\mid s,q)$,再由代码 threshold/branch通常先生成语言/JSON,再由 parser、tool call 或 constrained decoding 转为动作同类同类同类
长推理能力官方定位为快速“snap judgment”;复杂推理由外部 workflow 分解可通过更多生成/推理 token 使用 test-time compute可通过 CoT/agent loop 等增加 compute同类可生成多步推理
文本生成不支持核心开放文本生成支持支持支持支持
持久记忆模型内部持久 memory 未说明;应用需把相关状态传入基础模型主要依赖当前上下文;应用可另外实现 memory同类同类同类

GPT-3、LLaMA 和 PaLM 的公开架构事实分别来自其原始论文;Jev 的官方材料和创始人采访则只能确认它属于 Transformer-based 的 decision model,但无法支撑更细粒度的“架构革命”结论。citeturn17academia41turn17search5turn17academia39turn10view0

这里还有一个非常重要的反例:Jev 所获得的部分速度优势并非理论上只有 Jev 才能实现。工程师 Sean Goedecke 用普通 Qwen 模型把回答预填到一个 constrained choice token,再做 batching,得到类似 “System One” 的快速 classifier;其 Qwen3-8B 在 H100 上的 Doom loop 可约每 190 ms 完成六七个 batched decisions,而普通 tool-call 版本约每 600 ms 一个决策。他因此认为传统 LLM 经过 single-token decision interface 也能吃掉 Jev 的一部分速度优势。TypeSafe 自身也承认,其 benchmark 要求传统 LLM 输出完整概率分布,会使 comparator 比只输出离散答案更贵、更慢。citeturn23view0turn23view1turn24view1

因此,更严谨的表述不是“Jev 并行、Transformer LLM 完全不能并行”,而是:

\[

\textbf{LLM input prefill 可高度并行,但长 output decode 在 token 维度上自回归;}

\]

而 Jev 通过放弃任意字符串,把多个有限输出决策直接映射成概率分布,避免了完整结构化文本的 sequential decode。其真正额外获得多少优势来自特殊架构、RLCD、模型缩小还是服务优化,目前无法分解。citeturn24view0turn23view1

亮眼实验与对比

TypeSafe 官方目前最系统的 benchmark 是四个生产风格 workflow,而不是 MMLU、GSM8K、ARC 等传统 benchmark。每个 workflow 被拆成多个 narrow judgments 和确定性代码,所有模型运行同一 compute graph。评测参考答案并非人工 ground truth,而是 GPT-6 Astra 与 Claude Fable 5.1 在 high-thinking 设置下回答所有判断后的平均结果;其他模型用 provider 默认 reasoning 设置。因此这里的“accuracy”更准确地说是对 frontier-model consensus 的一致率,不能直接解释为现实世界真值准确率。citeturn24view3turn24view1

官方工作流数据/状态决策任务最终动作示例公开的单任务 accuracy / latency
Security Incidents安全告警、资产、ticket、device、maintenance、auth 等是否未授权、是否有解释、证据强度等多个判断notify、Tier-2、kill process、disable account、urgent escalation未说明:官网文本展示工作流和汇总图,但未打印单 workflow 数字。citeturn6view0turn24view3
Agent Trace ObservabilityAI support-agent 完整 trace 与 tool calls权限、不可逆动作、任务完成、用户满意度等auto-close、human review、file issue、page on-call 等未说明。citeturn6view1turn24view3
Invoice Processing发票、PO、实际交付、账户数据等欺诈、重复发票、vendor、一致性,以及代码计算金额/日期pay、schedule、short-pay、hold/return 等未说明。citeturn6view2turn24view3
Customer Service对话 thread 与 account stateintent、frustration、urgency、risk 等,初始多个 reading 并行say、refund、freeze card、handoff、flag、close 等未说明。citeturn6view3turn24view3

官方 benchmark 的 aggregate 点位没有以文本表格公开;第三方对公开 dashboard 的转录给出了以下近似数据,因此这里应视为公开仪表盘的二手数值记录,而非论文表格。citeturn7search0turn7search5turn14search4

模型四工作流平均 accuracy平均延迟/案例平均成本/案例相对 Jev 延迟相对 Jev 成本
Jev67.8%≈0.4 s≈\$0.00041×1×
GPT-5.6 Terra67.9%≈10.1 s≈\$0.030425.3× 慢76× 贵
GPT-5.6 Sol74.1%≈23.3 s≈\$0.083658.3× 慢209× 贵
Claude Opus 573.1%≈37.8 s≈\$0.176194.5× 慢440× 贵

这张表给出一个比 “Jev 快 193.6×、便宜 444.6×” 更细致的判断:与最接近其 accuracy 的 GPT-5.6 Terra 比,Jev 几乎不损失 accuracy(67.8% vs 67.9%),但约快 25×、便宜 76×;若追求最高决策一致率,GPT-5.6 Sol 高约 6.3 个百分点,但成本约 209×、延迟约 58×。 因而 Jev 的 Pareto 优势非常明显,但“最高 accuracy”并不成立。TypeSafe 自己也明确称 193.6×/444.6× 是较高端的现实收益,并承认 benchmark 设计可能存在内部团队偏差。citeturn24view1turn7search0turn14search4

更值得重视的是独立测试。Every 的 Mike Taylor 让 Jev 一次性检查 37 篇文本,每篇同时回答 21 个问题,共 777 个 judgments,不到 0.7 秒,估计成本约四分之一美分;不过该实验没有人工 ground-truth accuracy。随后 Every CEO 用 12 个 synthetic passages、4 类写作缺陷做直接对比:Jev 中位延迟约 0.35 s/passage,Fable 5.1 high-effort 约 8.83 s,即约 25× 速度优势,成本估计约低 580×;准确性上 Jev 检出 7 个人为植入缺陷中的 6 个,Fable 检出 7/7。这与官方 benchmark 的整体图景高度一致:Jev 极快极便宜,但 frontier reasoning model 在最困难判断上仍可更准确。 citeturn22view0

中文场景也已经出现早期独立数据。Judgekit 在 130 个手工标注中文样本上测试了电商 ticket routing、评论情感、spam 和客服 urgency;协议为每个样本一次 decision call、temperature=0、无 few-shot。Jev 1.13.0 得到 127/130 = 97.7%,Wilson 95% CI 为 93.4%–99.2%,约 890 ms/decision,三次运行没有 judgment flip;GLM-5.3-flash 同为 97.7% 但约 4.0 s,DeepSeek-flash 为 96.2%、约 1.1 s。这个测试的价值在于中文与手工标签,但 $n=130$ 仍远不足以证明广泛能力。citeturn21view0

尤其值得注意的是,该中文测试中 Jev 的 3 个错误全部落在 confidence < 0.7,而低于 0.7 的输出仅约占 9.2%;因此在这一个小数据集上,阈值 0.7 可通过升级约 9% 案例捕获全部已观测错误。这支持“confidence-gated routing”的工程价值,但不能被误读为 Jev 已通过严格校准检验——只有 3 个错误,也没有足够样本构造高质量 reliability curve。citeturn21view0

MindStudio 的八次 requests 则测得服务自身报告的 model evaluation time 为约 92–214 ms,共处理 4,148 input tokens。它还测试了 negation、简单 prompt injection、agent-output verification 和 forced choice:Jev 能正确理解“不要求退款”的否定语义,也正确识别了一个声称“保存成功”但 tool log 显示 permission denied 的 agent 输出;然而在不给 other 类别时,会被迫把完全无关的问题归入一个现有类别。这再次说明 schema safety ≠ semantic correctness。citeturn22view2

TypeSafe 自身还有两个很有价值的系统级实验。其 speculative fan-out cookbook 将 13 个问题合入一个 request,相比逐个调用宣称 9.6× 更快、11.5× 更便宜且答案不变;官方文档称同一 state 下增加独立问题通常只增加少量 question tokens。另一方面,Doom demo 大约以 10 queries/s 驱动决策,官方估计约 \$7/hour,但输入是结构化文本状态而非图像,且官方主动指出传统专用 Doom bot 可以玩得更好。citeturn15view0turn24view2

综合实验,证据可以压缩成:

命题当前证据强度判断
Jev 在窄 typed decisions 上延迟显著低于完整 frontier-LLM generation较强官方与多个独立测试方向一致。citeturn24view0turn22view0turn22view2
Jev 单决策成本显著更低较强官方定价为 \$0.042/MTok input、output free;独立实验亦观察到极低成本。citeturn24view0turn22view0
Jev 决策准确率超过 frontier GPT/Claude不支持当前数据更多显示“接近较快 frontier model,但低于最佳高-compute model”。citeturn7search0turn14search4turn22view0
Jev 的概率经过严格统计校准证据不足有训练目标和小样本 confidence gating 结果,但缺官方 ECE/Brier/reliability benchmark。citeturn13view0turn21view0
Jev “不会幻觉”仅在类型/schema意义成立仍会作出合法但错误的选择。citeturn24view1turn22view2

计算成本分析

这里首先必须区分三个概念:API 价格、实际 FLOPs、硬件资源成本不是一回事。 Jev 的 API 价格和端到端延迟可以观测,但参数量、active parameters、服务 GPU/TPU、batch size、量化方式和 parallel sampler 内部迭代次数均未公开;TypeSafe 甚至明确表示当前低价是否长期可持续尚不能被证明。因此,Jev 的真实绝对 inference FLOPs 和 GPU-hours 目前无法严谨计算。 citeturn24view1

对 dense Transformer,可以用一个常见的第一阶参数乘法近似来构造情景模型:

\[

F_{\rm forward}\approx 2PT,

\]

其中 $P$ 是一次 forward 中 active parameters,$T$ 是处理的 token positions;实际 FLOPs 还包含 attention、softmax、embedding、normalization 和其他开销。对 autoregressive LLM,在 KV cache 情景下忽略这些二阶项,可粗略写为:

\[

F_{\rm LLM}\approx

2P(T_{\rm in}+T_{\rm out}),

\]

而关键的 latency 问题在于 $T_{\rm out}$ 个 decode steps 存在顺序依赖。

对 Jev,只能写成一个情景公式:

\[

F_{\rm Jev}

\approx

2K P_J T_{\rm state+questions}+F_{\rm decision\ heads},

\]

其中 $P_J$ 为 Jev active parameters,$K$ 为 parallel sampler 所需等效 model passes。$P_J$、$K$、decision-head 开销全部未公开。 因此下面只能用参数规模假设展示数量级,而不能声称这是 Jev 的真实 FLOPs。

假设输入总长度为 2,000 tokens、且 $K=1$,则:

假设的 Jev active 参数情景 FLOPs/请求说明
1B≈ 4 TFLOPs纯情景,不代表 Jev 是 1B
7B≈ 28 TFLOPs纯情景
70B≈ 280 TFLOPs纯情景

这说明为什么仅凭 100–500 ms latency 不能反推出模型参数:1B 模型在一般 GPU 上、70B 模型在高端并行服务器上、强 batching 的托管服务,都可能产生相近用户侧延迟。

作为架构数量级参照,假设传统模型接收 2,000 tokens 并生成 64 tokens,仍只计算 $2PT$ 主项:

公开模型参数量粗略参数主项 FLOPs/请求输出 critical path
GPT-3175B≈ 722 TFLOPs64 个自回归 decode steps
LLaMA-65B65B≈ 268 TFLOPs64 个自回归 decode steps
PaLM-540B540B dense≈ 2.23 PFLOPs64 个自回归 decode steps
Jev未公开无法确定typed decisions 并行;内部 sampler steps 未说明
当前 Claude未公开无法确定生成式 decode;内部参数未公开

GPT-3、LLaMA 和 PaLM 的参数数目来自公开原始论文。该计算仅是 architecture-scale sanity check,并不是与 2026 年 GPT-5.6/Claude 5 API benchmark 的实际 FLOP 对照。citeturn17academia41turn17search5turn17academia39

这也意味着:目前我们可以有把握说 Jev 的用户侧“费用/延迟效率”很高,但还不能证明其“每个 FLOP 的 intelligence”高多少,因为 denominator 没有公开。

API 成本则可以精确得多。Jev 当前官方价格为:

\[

\\$0.042 / 10^6\ {\rm input\ tokens},\qquad

\\$0 / {\rm output\ tokens}.

\]

所以若每次调用平均输入 $T$ tokens,则一百万次调用成本为:

\[

C_{1M}=0.042\,T\quad\text{美元}.

\]

因此:

平均输入/调用一百万次 Jev 调用
1,000 tokens\$42
5,000 tokens\$210
10,000 tokens\$420

这一计算直接来自当前公开定价;真实 workflow 可能包含多个问题或多轮 call。citeturn24view0

有趣的是,公开 workflow 点位中的 Jev 平均成本约为 \$0.0004/case。反推:

\[

\frac{0.0004}{0.042/10^6}

\approx 9,524

\]

即每个完整 workflow case 合计约相当于 9.5k 个收费 input tokens。这与这些案例需要大量 state、多个问题乃至多轮流程的描述是相容的,但它只是从价格反算出来的 token-equivalent,不代表单个 prompt 恰好 9.5k tokens。其价格和 workflow 方法分别来自官方与公开 dashboard 转录。citeturn24view3turn7search5

按相同四工作流点位,把成本归一化到 100 万个完整 workflow cases:

模型成本/案例100 万案例相比 Jev 多支出
Jev\$0.0004\$400—
GPT-5.6 Terra\$0.0304\$30,400+\$30,000
GPT-5.6 Sol\$0.0836\$83,600+\$83,200
Claude Opus 5\$0.1761\$176,100+\$175,700

这些数字是线性放大 benchmark 单案例 API 费用,不包含工程、人审、数据库或网络成本。原始点位来自第三方对 TypeSafe workflow dashboard 的转录,因此适合做数量级和相对比较,不应被理解为各厂商所有任务的固定价格。citeturn7search5turn14search4

Text
xychart-beta
    title "100 万个 benchmark workflow cases 的推算 API 成本(千美元)"
    x-axis ["Jev", "GPT-5.6 Terra", "GPT-5.6 Sol", "Claude Opus 5"]
    y-axis "千美元" 0 --> 180
    bar [0.4, 30.4, 83.6, 176.1]

延迟可以做类似归一化。但“吞吐”必须谨慎解释:下面的 $1/L$ 只是单客户端、完全串行、不并发请求的吞吐代理,不是厂商服务器 QPS capacity。

模型平均 latency串行吞吐代理 $1/L$Jev 相对速度
Jev0.4 s2.50 case/s1×
GPT-5.6 Terra10.1 s0.099 case/s25.3× slower
GPT-5.6 Sol23.3 s0.043 case/s58.3× slower
Claude Opus 537.8 s0.026 case/s94.5× slower

对于真实批处理系统,所有模型都可通过多连接、batching 和异步并发增加 throughput,因此不能将该表当作 GPU 吞吐 benchmark。它衡量的是每个 workflow 的用户可见 latency。citeturn7search5turn14search4

GPU/TPU 资源方面,目前的公开状态更简单:

模型自托管/硬件信息可做出的可靠判断
Jev权重未公开;服务 GPU/TPU、显存、精度、batching 均未说明无法估算 GPU 数/\$·GPU-hour
GPT/Claude 闭源 APIprovider 内部 serving topology 未公开可比较 API 美元成本,不能比较真实 GPU-hours
LLaMA-65B开放模型;65B 参数仅权重的 FP16 理论下限约 $65B\times2$ byte ≈ 130 GB;实际还需 KV cache/runtime,因此 FP16 通常至少需多卡或模型并行。参数规模来自原始论文。citeturn17search5
PaLM-540B论文披露训练使用 6144 TPU v4,但这是训练资源不能把 6144 TPU v4 当成 inference requirement。citeturn17academia39

所以在“计算成本”这一部分,最严谨的结论实际上是两层:

用户经济性:Jev 优势已经相当明确。 目前的 API 实测和 benchmark 均支持数量级级别的成本降低。citeturn24view0turn22view0

底层算力效率:尚不能证明具体倍数。 没有 $P_J$、active params、硬件、batch size 和 sampler 计算图,就无法把“444× 便宜”转换成“444× 少 FLOPs”;事实上官方承认当前价格长期是否有补贴无法证明。citeturn24view1

此外,公平性上还有一个重要修正:如果传统 LLM 改用一个 constrained token 表示一个 decision,而不是生成整段 JSON + 概率字符串,那么其延迟可以明显降低。Sean Goedecke 在普通 Qwen 上的实验得到约 2–3× 的 structured-output 加速,并在 H100 上实现约 190 ms 的 System-One-style Doom loop。这意味着 Jev 最合理的未来 competitor 不是“完整 ChatGPT 回答”,而是GPT/Claude/LLaMA 的专用 classification/decision endpoint。citeturn23view0turn23view1

应用场景预测

Jev 最有价值的场景不是“所有 AI”,而是具有四个共同条件的任务:高调用频率、输出空间可预定义、每个局部判断不需要长推理、错误可以通过概率阈值/代码/人工升级来管理。 这与 TypeSafe 官方的 classify、route、score、verify、guardrail 定位,以及 early adopters 的实际测试高度一致。citeturn24view0turn22view0

场景Jev 的价值推荐部署方式主要限制
客服/销售/工单实时路由intent、urgency、frustration、department 等可以一次并行判断;低延迟允许进入在线请求主路径一个 call 同时 fan-out 多个 Choice/Noul/Score;低 confidence 进入人工/强 LLMtaxonomy 必须覆盖 other/unknown;错误路由仍可能发生。citeturn15view0turn22view2
Agent guardrail / critic / observability每个 tool call 前后都可做权限、风险、成功性、证据一致性判断,低成本允许“verify everything”强 LLM 做 agent;Jev 在动作前后做快速 gate;危险操作必须 deterministic policy 优先简单 prompt-injection 测试成功不等于安全认证。citeturn24view0turn22view2
发票、理赔、合规和运营 workflow模糊判断交给 Jev,金额/日期/规则由代码精确计算,比让 LLM 一次性 reasoning 更可审计将业务 SOP 拆成 atomic judgments + deterministic code graphworkflow 设计成本高;复杂例外仍需人/LLM。citeturn24view3turn6view2
海量文档分类与 feature generation\$0.042/MTok 的输入价格使对大型数据集反复打标签、评分成为可能Map-reduce;按 confidence 只复核小部分案例专用小分类器在固定任务上仍可能更快、更便宜。citeturn24view0turn23view0
RAG / context routing / model routing在把 context 送给昂贵 LLM 前,快速判断哪些文件、工具、模型或知识块最相关Jev 做 first-stage selector;强 LLM 做 final reasoningChoice 上限 255,超大候选集需分层/tournament/re-ranking。citeturn16view0turn23view0
实时游戏、交互式 agent、高层机器人策略100ms 量级 judgment 可进入 tight feedback loopJev 做目标/动作类别选择;控制器负责低层连续控制当前公开 Doom 是文本化 state,不是视觉输入;安全关键低层控制不应直接依赖未经充分验证的概率模型。citeturn24view2
LLM 输出质量 linter几乎每个段落、每次 tool call、每个 agent step 都可以廉价检查LLM generate → Jev 多项并行检查 → 不通过则 revise/escalateJev 在 subtle defect 上可能低于高-thinking LLM。citeturn22view0

最值得关注的架构不是“用 Jev 替掉 GPT”,而是如下混合栈:

Text
flowchart LR
    U["任务 / 用户请求"] --> P["Frontier LLM<br/>规划、生成、复杂推理"]
    P --> J["Jev<br/>高频并行判断"]
    J -->|高置信度| C["确定性代码<br/>policy / calculation / execution"]
    J -->|低置信度| R["强 LLM 或人工复核"]
    C --> V["Jev 再验证<br/>结果/trace/风险"]
    V -->|通过| O["提交结果"]
    V -->|不通过| P

这种架构利用了二者不同的 comparative advantage:frontier LLM 把 test-time compute 花在少数真正困难的问题上;Jev 承担大量“这个动作安全吗”“哪个队列合适”“信息是否满足条件”“输出是否符合标准”之类的 cheap judgments。Every 的实验已经展示了类似的“knowledge-work linter”思路,而 TypeSafe workflow benchmark 也显示,把业务策略显式拆成 code + judgments 通常比让同一模型用一个大 prompt 独立完成全部策略更准、更快、更便宜。citeturn22view0turn24view3

部署时最重要的不是追求一个统一 confidence > 0.7 阈值,而是针对业务损失函数重新校准阈值。例如诈骗漏报和普通客服误路由的成本并不相同,因此理想决策应类似:

\[

a^*

=

\arg\min_a

\sum_y

P(y\mid x)\,C(a,y),

\]

其中 $C(a,y)$ 是动作 $a$ 在真实状态 $y$ 下的业务成本。Jev 的完整 probability distribution 比单一 label 更适合这种 decision-theoretic policy;但前提是概率在你的真实数据分布上经过验证,而不是直接相信 vendor confidence。TypeSafe 文档本身也建议按风险选择 confidence threshold。citeturn16view3turn21view0

实际生产上线至少应做到:先用历史数据 shadow-run;给 Choice 加 other/unknown;为每种错误类别分别计算 confusion matrix、precision/recall 和 expected cost;单独验证 probability calibration;设置 human/LLM fallback;固定生产模型版本而非永远使用 jev-latest;监控数据漂移和 latency distribution。MindStudio 特别指出其测试使用的是 Jev 1.13.0,而 alias 随时间变化可能改变行为。citeturn22view2

Jev 当前还存在几个结构性限制。第一,不生成开放文本,因此不能独立替代聊天、写作和 coding model。第二,同一个 call 内问题独立,复杂依赖必须由外部代码发起后续请求。第三,Choice 单题最多 255 options,超大空间需要 hierarchical choice 或两阶段方案。第四,共享 state/questions 的 token budget 官方目前约 32k tokens。第五,官方明确将它定位于快速 focused judgments;长逻辑推理并不是其核心能力。citeturn15view0turn16view0

另一个商业限制是供应商与透明度风险:模型权重未开放,服务硬件、模型规模、训练数据生成机制、RLCD 算法和长期定价经济性未公开。因此在监管严格或需要 on-prem 的银行、医疗、政府场景,Jev 当前 API 形态可能比开放 LLaMA 类模型更难通过基础设施审计;这一点必须与其极低 API 成本一起权衡。citeturn18search26turn24view1

结论与建议

Jev 值得认真对待,但应准确理解其创新层次。目前公开证据足以证明它不是普通聊天 LLM 的又一个 API 包装:其整个产品接口、训练目标和推理方式都围绕 typed probabilistic decisions 设计。 但公开证据不足以证明 Jev 拥有一种完全不同于 Transformer 的基础神经网络架构。创始人已经确认其 Transformer-based,而 layer topology、参数量、是否 MoE、parallel sampler 机制和 RLCD 数学形式均处于保密状态。citeturn10view0turn24view0

从能力上看,Jev 最有价值的结果不是“比 Claude/GPT 更聪明”,而是以非常低的时间和金钱成本达到接近强模型的局部判断质量。四工作流公开数据的合理解读是:它几乎追平 GPT-5.6 Terra,同时有约 25× latency 和 76× cost 优势;但更高 compute 的 GPT-5.6 Sol 和 Claude Opus 5 仍有约 5–6 个百分点的决策一致率优势。Every 的独立测试也出现同样 trade-off:Jev 快约 25×、成本低约 580×,却漏掉了 frontier model 找到的一个 subtle defect。citeturn7search0turn7search5turn14search4turn22view0

因此,对于“每天需要做上百万次、答案属于有限集合、100–500 ms latency 有价值、95–99% 判断已经有业务价值、低置信度可以升级”的任务,Jev 的 economics 可能极具吸引力。在按 workflow benchmark 线性外推的量级上,一百万个复杂 workflow case 约 \$400,而可比 GPT/Claude 配置可能达到数万美元乃至十几万美元;即便这些 benchmark 不能直接泛化,差距大到足以值得企业做真实数据 A/B 测试。citeturn7search5turn14search4

相反,对数学证明、复杂编码、开放研究、长规划、模糊目标澄清、创意写作或需要动态产生新行动空间的任务,Jev 不应被视为 frontier LLM 的替代品。TypeSafe 自己要求把复杂任务拆成“snap judgments”,外部工程师也指出缺少可变 test-time reasoning compute 很可能形成能力上限。citeturn15view0turn23view1

技术上最重要的竞争问题反而是:Jev 的优势有多少来自真正专有的 RLCD/架构,又有多少来自“不要生成字符串”这一接口选择? 普通 Qwen 的单-token constrained-decision 实验已经证明传统 LLM 可以复现部分 speed/parallelism 优势。因此,一旦 OpenAI、Anthropic、Google 或 Meta 推出原生的 low-latency probability/classification endpoint,Jev 的 moat 就将主要取决于三个目前尚未充分公开验证的东西:RLCD 是否显著改善校准、专用架构是否在相同 active FLOPs 下更高效、以及 TypeSafe 是否能长期维持价格/延迟优势。 citeturn23view0turn23view1turn24view1

最终的研究评级如下:

维度本报告评级原因
低延迟能力高可信官方与多项独立测试一致,100 ms 到亚秒级反复出现。citeturn24view0turn22view0turn22view2
低 API 成本高可信(当前价格)定价明确,独立实验成本亦极低;长期商业可持续性仍待观察。citeturn24view0turn24view1
结构/类型可靠性高可信输出空间预定义,从接口上排除 schema 外生成。citeturn16view0turn24view1
语义准确性接近 frontier LLM中等可信,任务相关官方 workflow 与早期独立实验支持,但样本和任务覆盖仍有限。citeturn24view3turn22view0turn21view0
优于最强 frontier LLM 的准确率当前不成立已有对比反而显示高-compute GPT/Claude 通常更准。citeturn14search4turn22view0
概率严格校准低至中等可信RLCD 的目标明确,但标准 calibration benchmark 与损失函数未公开。citeturn13view0turn21view0
全新底层模型架构证据不足确认 Transformer-based,但具体创新未披露。citeturn10view0turn24view0
绝对 FLOPs 优势无法判定active parameters、sampler passes 与硬件均未公开。
作为 GPT/Claude 全面替代不适用Jev 主动放弃字符串生成,优化目标不同。citeturn24view0turn15view0

建议把 Jev 视为一种新的 AI 软件层,而不是一个更便宜的聊天模型。 它最值得测试的位置,是今天代码中大量不得不调用完整 LLM、但最终只需要一个 boolean、enum、score、route 或 confidence 的地方。在这些点上,Jev 有机会把“偶尔调用智能模型”变成“在程序内部几乎到处插入廉价概率判断”。这正是其可能产生真正平台级影响的原因。与此同时,在 TypeSafe 发布完整技术论文、RLCD 数学细节、标准公开 benchmark、校准曲线以及服务计算配置之前,对“新架构”“零幻觉”和“数百倍计算效率”等更强主张都应保留技术上的怀疑。citeturn24view0turn24view1turn23view1

navlistJev 近期报道turn25news20

第十一章知识库收录材料 · 来源、版本与许可 · 第三方内容版权归各自作者;观点与数字请对照原始来源核验。