Skip to content

三、三方模型(API) ​

← 上一章:二、Coding Plan | 返回总览 | 下一章:四、CLI 种类 →

三方模型指通过 API 调用的第三方大语言模型服务,涵盖国际主流和国产模型。

国际主流模型 API ​

模型厂商特点
Claude APIAnthropic日常主力 Claude Opus 5.5(2026-09-22,claude-opus-5-5,$4/$20,1M 上下文);上探 Claude Fable 5.2 / Mythos 5.2(2026-11-09,$8/$40,1M 上下文 / 128K 输出,始终开启自适应思考,另有 2.5 倍速的 fast 模式 $16/$80);下探 Sonnet 5.5(09-28)/ Haiku 5.5(10-07)。Fable 与 Mythos 同权重、防护不同:Fable 面向所有用户,Mythos 仅限经审核的机构
GPT-6 系列OpenAIGPT-6.2 双档(2026-11-17 发布,均 1.05M 上下文 / 128K 输出):Astra(gpt-6.2-astra,$8/$40、缓存 $0.40,接替 GPT-6 Astra 当旗舰——输入输出比上代降 20%、缓存输入降 60%)与 Sol(gpt-6.2-sol,$2/$10、缓存 $0.10,维持 6.1 Sol 定价,接替 6.1 Sol 当日常主力)。两者都支持 low / medium / high / xhigh / max 五档 effort(无 none)与 Ultrafast 加速档(2027-02-28 前为标准价 3 倍、之后 6 倍),输入超 272K 按长上下文另计(Astra $16/$60、Sol $4/$15)。上一代 GPT-6 Astra(2026-09-03,$10/$50)、6.1 Sol(09-29)、6.1 Terra(10-26,$1/$5,偏视觉推理 / computer use / 写作)、Luna($0.10/$0.50,高吞吐)均未进弃用名单,API 仍可调用——6.2 是「往顶上插一层」,不是把旧档下线;也没有 6.2 Terra / 6.2 Luna,中低价位仍用 6.1 Terra 与 GPT-6 Luna。Pro 已变为 reasoning effort 档位而非独立模型;GPT-5.5 于 2026-10-14 从 ChatGPT / Codex 下线,API 仍可调用。另有一条受审核的门类专用线:GPT-6 Cyber(2026-11-05,gpt-6-cyber,$20/$100,1.05M 上下文 / 922K 输入 / 128K 输出),是 GPT-6 Astra 的网络安全后训练变体,只对通过 Daybreak Red 审核的组织开放(普通 API Key 调不到,企业还需单独为该模型申请);官方明说它在通用编码上并不优于 GPT-6 Astra,价值在于「Astra 会拒掉的授权渗透任务它能做完」
Gemini 系列Google四档分工:Gemini 4 Neon(2026-11-18 直接 GA,官方定位夹在 Hydrogen 与 Carbon 之间——要「前沿级质量 + 端到端更快」,面向高频的复杂工程 / 知识工作 / 科研任务;$3/$15、缓存 $0.15(只支持隐式缓存)、统一 1M 上下文、长输出可续写到 1M(同步档默认 64K)、四档思考 low / medium / high(默认) / xhigh、无免费档;同日成为 Antigravity 里「没手动选模型时的默认」与 Managed Agents 可选项)、Gemini 4 Carbon(10-28 发布,11-10 起对全部付费开发者开放,主打编码与长程 agent)、Gemini 4 Argon(2026-10-13 公开,1,048,576 上下文、单次输出上限 943,718)与 Gemini 4 Hydrogen(2026-11-12 发布,定位「快速执行引擎」,输入+输出合计 1,048,576、单段输出上限 65,536(更长输出要走续写),同四档思考,$1.50/$7.50 为常规价不涨价,既可单用也可与 Neon / Carbon / Argon 搭班;11-14 起成为 Search「AI 模式」的默认模型)。Argon 与 Carbon 的推广价 $2/$10 只到 2026-11-30,12-01 起 $4/$20(缓存输入同步 $0.10 → $0.20);四个 Gemini 4 档位在弃用表上都没有下线日期。3.8 Flash 已被 Hydrogen 接替——官方迁移指南把 gemini-3.8-flash 直接指向 gemini-4-hydrogen,Vertex 上仍可调用至 2027-09-02 弃用日;3.8 Live 仍在役,3.1 Pro 已非旗舰;Gemini 3.5 Pro 未发布。同日 API 另开一项能力:Word / PowerPoint / Excel 等 Office 与 OpenDocument 文件可直接传,并能按页码范围、工作表页签、单元格区域、时间段或内容层(页图 / 提取文本 / 公式 / 视频逐字稿)切片,只为你真正要处理的那部分付费
Muse EmberMeta2026-11-09 起经 Meta Model API(配套 Muse Code)对外服务,Meta 首度把自研模型做成付费 API:Muse 家族里最小的一档,1M 上下文、原生文本 / 图像 / 音频 / 视频输入,$0.10 / $0.50——与 GPT-6 Luna、DeepSeek Flash 同一价格带,定位重复性 agent 任务的低成本执行层。参数量未公布

⚠️ 上下文窗口的口径:表中的数值是厂商规格书里的上限,实际可用量受输出预留、计费方式与接入渠道影响。同一模型在不同云渠道(如 AWS Bedrock)的标注可能不一致,选型前请以你实际接入的那个渠道的文档为准。

国产主流模型 API ​

模型厂商特点
DeepSeek深度求索两档并行:deepseek-flash(V4.1-Flash-1017,2026-10-17:552B MoE、预填充 8B / 解码 16B 激活、原生多模态、1M 上下文、MIT 权重)与 deepseek-v4-pro(V4-Pro-0813:1.6T / 49B 激活、纯文本、1M 上下文)。低峰 $0.15/$0.60 与 $0.66/$1.98,高峰翻倍;接口协议、周边 API 与计费口径见下节
Qwen 系列阿里现役旗舰 Qwen4-Max(2026-11-16 正式发布,模型名 qwen4-max):总参 2.4T / 每 token 激活 71B(另有 328B N-gram embedding 参数),Gated DeltaNet + Qwen 稀疏注意力的新架构,原生视觉(文本 / 图片 / 视频入、文本出)、1M 上下文、思考与非思考同价。定价:北京 ¥10 / ¥30、缓存命中 ¥0.5;国际站 $1.50 / $4.50、缓存 $0.075(比 Qwen3.8-Max 国际价低 25%)。权重不开放——官方只说「中小尺寸 Qwen4 将陆续开源」,截至 11-18 未落地。上一代 Qwen3.8-Max(2026-08-03,2.4T / 激活 95B)仍在架但已退居次席;11-11 上线的 qwen4-max-preview 已被正式版接替
Kimi K3.1 Pro月之暗面K3.1 Pro(2026-10-23):2.8T 总参 / 104B 激活、原生图像输入、1M 上下文;$2/$10(缓存 $0.20),Highspeed 档 $4/$20;权重 11-02 上 HF(自有许可)。K2 系列已于 10-31 停止新用户接入
GLM-5.3智谱 AI2026-08 上线,MoE 744B 总参 / 40B 激活;文本输入 1M、输出 128K。已扩展为 Flash / FlashX / Prime 家族;下一代(5.4 / 5.5)截至 11 月未发布
MiniMax M3.1 FlashMiniMax在 M3(2026-06-01,428B / 23B)基础上于 2026-10-19 推出:428B 总参 / 23B 激活、1M 上下文、$0.15/$0.60;厂商称 agent 任务成本较前代降约 70%(自述口径)。另有音乐、语音、视频模型
混元 Hy4腾讯两档并行。Hy4 flash(2026-11-16):220B 总参(官方模型卡口径:155.5B 主干 + 63.5B Engram + 0.43B ViT + 0.85B DFly2)/ 每 token 激活 11.3B 文本 + 0.43B 视觉、多模态、1M 上下文,¥0.5 / ¥2 / 缓存 ¥0.02(每百万 token),解码 >150 tps,KV cache 只有 Hy4 的 1/6;官方定位「大多数日常任务用它」(深度搜索、文档与 PPT、简单前端、Computer Use),长程软件工程才上 Hy4,并称单任务成本为 Hy4 的 1/20——按的是自家 WorkIndex 内部评测,不是公开榜单。已在腾讯云 TokenHub / WorkBuddy / 元宝 / 企业微信 / QQ / ima 上线,OpenRouter 待接入;2026-11-18 已开放权重——Hy4-flash / Hy4-flash-FP8 / Hy4-flash-base 三个仓库上 Hugging Face、ModelScope、GitCode 与 GitHub,按腾讯 Hy License 发布,官方同时预告 Hy4 本体也在加速开源。Hy4 正式版(2026-11-04):770B 总参 / 49B 激活、1M 上下文,首次引入视觉理解与 Computer Use,¥6 / ¥18 / 缓存 ¥0.3。实时语音线 Hy Realtime(11-13)新增 Agentic 工具调用与唱歌,已在元宝语音通话 / 腾讯客服上线,腾讯云 API 尚未开放、无对外定价
Mistral Large 4Mistral代号 Le Chonk:2026-10-06 预览、10-29 转为开源权重,$0.70/$2.10(缓存 $0.07)。欧洲阵营当前最能打的一款编码模型

DeepSeek:一个 Key 下的 API 全家桶 ​

DeepSeek 是国内少数把「模型 + 协议 + 周边工具」都收在同一个平台上的厂商。2026 年它的形态分三层:两个模型名、三种协议格式(外加一个 Beta 通道)、一组不计 token 的周边 API。

模型层:只有两个名字 ​

API 模型名对应版本结构上下文 / 输出视觉并发上限低峰价(命中 / 未命中 / 输出,$ per 1M)
deepseek-flashDeepSeek-V4.1-Flash-1017552B MoE,预填充 8B / 解码 16B 激活1M / 384K✅2,500$0.003 / $0.15 / $0.60
deepseek-v4-proDeepSeek-V4-Pro-08131.6T MoE / 49B 激活1M / 384K❌500$0.022 / $0.66 / $1.98

高峰价 = 低峰价 × 2。 但别被「高峰」吓住:官方定义的高峰只有 UTC 01:00–04:00 与 06:00–10:00、周一至周五、不含中国法定节假日——换成北京时间正好是 09:00–12:00 和 14:00–18:00 两个工作时段。也就是说夜里、清晨和整个周末都是半价,批处理与评测任务挪到晚上能直接砍一半成本。缓存命中约为未命中的 1/50(Flash)和 1/30(Pro),把长 system prompt 和文档固定在请求最前面即可命中。

接口层:三种协议,加一个 Beta 通道 ​

格式Base URL用途
OpenAI Chat Completionshttps://api.deepseek.com事实上的默认入口,改个 base_url 就能把现有 OpenAI SDK / 工具切过来
OpenAI Responses同上新版 agent 接口,Codex 一类工具走这条
Anthropic Messageshttps://api.deepseek.com/anthropic给 Claude Code 及兼容 Anthropic 的客户端直连(走 x-api-key 认证)
Betahttps://api.deepseek.com/betaFIM 补全、对话前缀续写、严格工具模式

两档模型的能力基本对齐:JSON 输出、工具调用、Responses API、Anthropic API、对话前缀续写(Beta)、FIM 补全(Beta,仅非思考模式)。硬差异有两条,都落在 Flash 一侧:① 图像输入只有 Flash 支持,Pro 是纯文本模型——要「看图改代码」就得走 Flash;② 2026-11-13 开放的内置应用工具(联网、读链接、文件输入、安全检查)也只挂在 deepseek-flash 上,deepseek-v4-pro 至今不支持。见到「两档基本对齐」的说法要留个心眼:凡是涉及多模态与 App 级工具的用法,实际只有 Flash 一条路。

思考模式是开关,不是另一个模型 ​

deepseek-chat / deepseek-reasoner 两个旧名字已于 2026-07-24 退役,R1 式的显式推理变成 V4 的思考模式:请求里传 thinking: {"type": "enabled"}(默认就是开启),reasoning_effort 取 low / high(默认)/ max。三个容易踩的点:

  • 思考模式下 temperature 无效,tool_choice: "required" 会直接返回 400——这类请求要先把思考关掉
  • 默认 max_tokens 随档位变:关闭思考 8K、开启 64K、max 档 128K
  • 带工具的循环里,上一轮的 reasoning_content 必须原样回传,否则 400;不用工具时可以省略

周边 API:搜索、抓取、解析、语音 ​

能力接口价格备注
联网搜索POST /v1/tools/search$0.75 / 千次成功请求支持 site:、lang:、after:、before:、精确短语等检索符;返回带 rerank_score 与权威度分级(0–4)
网页抓取POST /v1/tools/fetch$0.75 / 千次成功请求直接返回 Markdown 正文
Web Tools随对话由模型自行调用2026-11-18 12:00(北京)起免费模型侧触发的服务端搜索与网页抓取不再计费,只算 token;单独调 /v1/tools/search、/v1/tools/fetch 仍按上两行收费
文件解析 / OCR文档解析、OCR API$0.225 / 千页扫描件先过这一层,再喂给模型
语音合成 TTSTTS API限时五折 $0.225 / 万字符(原价 $0.45)
语音识别 ASRASR API限时五折 $0.058 / 小时(原价 $0.116)

几个计费与配额细节:搜索/抓取只对成功请求计费,失败、空结果、超时都不算钱;两者 QPS 上限分别是 100 与 25,按账号统计而非按 Key,和模型并发上限互不占用。从 2026-11-18 12:00(北京时间)起,模型在对话中自行触发的服务端搜索与抓取不再单独计费——只按 token 结算;要收费的只剩开发者显式调用 /v1/tools/* 那种「搜索 API 本身」。此外还有 GET /models、GET /user/balance 与 Files 等管理接口。

内置应用能力:把 App 的对话体验做成参数(2026-11-13) ​

上面那组周边 API 要自己拼装——搜索完把结果回填进上下文、文件解析完再拼 prompt。2026-11-13 官方又开了一条更省事的路子:在原有 Messages / Responses / Chat Completions 请求里打开对应参数,工具调用与上下文拼接全由服务端完成,不必自己在客户端写编排。四项能力:

  • 联网搜索(deepseek_web_search):关闭思考时按需搜网页或图片并给出引用;开启思考时同一个工具会多轮推理式地搜和读链接
  • 文件输入:上传 PDF、Office 文档、图片,经纯文本抽取或富版面解析后进入对话上下文
  • 读链接(deepseek_read_url):模型自行识别用户消息里的链接并抓取正文
  • 安全检查:审查输入与输出,命中风险时返回拒答标记。面向公众提供服务必须开启,并履行内容安全审核、大模型备案、AI 标识等义务

⚠️ 这三件事都只对 deepseek-flash 生效,deepseek-v4-pro 不支持——这也是上节说的第二条硬差异。另外官方把整套能力做成了一个开源 Demo 客户端(chat-demo),能导入 DeepSeek 的历史对话,可以直接当参考实现看。计费上只剩 token 一条线:2026-11-18 12:00(北京)起,这套内置能力触发的搜索与抓取已不再按次收费,「开参数 = 多花钱」的顾虑可以去掉;但显式调 /v1/tools/search、/v1/tools/fetch 的老路子仍按 $0.75/千次计。

三个名字上的坑 ​

  • ⚠️ deepseek-v4-flash、deepseek-v4-flash-vision-exp 仍可用,但对应模型已退役——请求会被路由到 V4.1-Flash 并按 Flash 价计费(2026-09-10 起)。老代码不改也不会报错,但你以为在调旧模型,其实已经换人了。
  • ⚠️ 不存在「DeepSeek V4.1-Pro」。09-10 的发布说明里曾写要把 deepseek-v4-pro 的请求临时路由到 Flash「直到 V4.1-Pro 发布」,开发者反对后官方撤回,这个名字至今没有模型卡、没有价格行、没有权重。中文文章里给它编的参数与价格,都是把家族数据挪了个标签。
  • ⚠️ 官方文档在 api-docs.deepseek.com,控制台在 platform.deepseek.com;deepseek.ai 一类站点是第三方整理页,数字大体对得上但不能当官方口径引用。

想自己搭 agent 的话,DeepSeek 官方还开了一个 MIT 协议的运行时 DSH(DeepSeek Harness),Model + Harness = Agent 这个说法就是从它来的——详见第四章 CLI 工具。

模型聚合平台 ​

  • OpenRouter:统一 API 网关,支持 500+ 模型、80+ 提供商,OpenAI 兼容接口
  • Hugging Face:提供开源模型托管和推理服务

模型选型对比 ​

编程场景 ​

模型编码能力价格(输入/输出,每百万 token)上下文速度中文代码注释
Claude Fable 5.2⭐⭐⭐⭐⭐$8 / $401M快⭐⭐⭐⭐
Claude Opus 5.5⭐⭐⭐⭐⭐$4 / $201M中⭐⭐⭐⭐
GPT-6.2 Astra⭐⭐⭐⭐⭐$8 / $401.05M中⭐⭐⭐
GPT-6.2 Sol⭐⭐⭐⭐⭐$2 / $101.05M快⭐⭐⭐
Gemini 4 Carbon⭐⭐⭐⭐⭐$2 / $10(推广价)1M快⭐⭐⭐
Gemini 4 Neon⭐⭐⭐⭐⭐$3 / $151M快⭐⭐⭐
Gemini 4 Hydrogen⭐⭐⭐⭐$1.50 / $7.501M很快⭐⭐⭐
Kimi K3.1 Pro⭐⭐⭐⭐⭐$2 / $101M快⭐⭐⭐⭐⭐
DeepSeek-V4.1-Flash-1017⭐⭐⭐⭐$0.15 / $0.60(低峰)1M快⭐⭐⭐⭐⭐
DeepSeek-V4-Pro-0813⭐⭐⭐⭐⭐$0.66 / $1.98(低峰)1M中⭐⭐⭐⭐⭐
Qwen4-Max⭐⭐⭐⭐¥10 / ¥301M快⭐⭐⭐⭐⭐
混元 Hy4⭐⭐⭐⭐¥6 / ¥181M中⭐⭐⭐⭐⭐
GLM-5.3⭐⭐⭐$1.40 / $4.401M快⭐⭐⭐⭐⭐
MiniMax M3.1 Flash⭐⭐⭐$0.15 / $0.601M很快⭐⭐⭐⭐

Argon 与 Carbon 的 $2/$10 是推广价,2026-11-30 到期、12-01 起翻倍到 $4/$20——按现价做的预算要留出这一档。Hydrogen 的 $1.50/$7.50 与 Neon 的 $3/$15 都是常规价,不在此列。

Hydrogen 的定位值得单独记:它默认 high 思考档在 Artificial Analysis 智能指数拿到 51,高于 Argon 的 50,xhigh 档 54;但它是「执行引擎」而非「前沿判断」——官方给的分工是 Carbon / Argon / Neon 做架构判断,Hydrogen 写代码、跑测试、验变更。同理,Antigravity 的 Orchestrator 就是按这个分工自动换模型,2026-11-18 起规划档从 Carbon 换成 Neon(Neon 规划、Hydrogen 执行),官方称 Terminal-Bench 4.0 成功率接近 Carbon,配额少用 24%、快 19%。官方另称 Hydrogen 单跑 Terminal-Bench 4.1 得 57%(3.8 Flash 仅 18.2%)、默认档任务快 2.5 倍——这正是 Google 敢直接弃用 Flash 品牌改名的底气;代价是原有 gemini-3.8-flash 调用必须改模型名,thinking_budget 在 Gemini 4 上直接返回 400。

非编程场景 ​

场景首选次选理由
长文档分析Gemini 4 Argon / GPT-6.2 AstraClaude Opus 5.5 / Kimi K3.1 Pro1M+ 上下文,原生多模态
中文写作Qwen4-Max / Kimi K3.1 Pro混元 Hy4 / DeepSeek-V4.1-Flash中文理解精准,文风自然
多轮对话Claude Opus 5.5GPT-6.2 Sol指令遵循强,逻辑一致
多模态理解Gemini 4 ArgonGPT-6.1 Terra原生多模态,Terra 偏视觉推理
看图操作桌面混元 Hy4 / GPT-6.1 TerraGemini 4 Carbon内置 Computer Use 或屏幕理解
低成本大批量DeepSeek-V4.1-Flash-1017GPT-6 Luna / MiniMax M3.1 Flash开源低价,推理成本极低
语音/音乐生成MiniMax M3.1 Flash—原生语音和音乐模型

选型建议 ​

  • 日常编码 → Claude Opus 5.5(质量与价格最平衡)或 GPT-6.2 Sol($2/$10 一档,缓存便宜);DeepSeek-V4.1-Flash-1017 性价比最佳
  • 最难的迁移 / 长周期 agent → Claude Fable 5.2 或 Gemini 4 Carbon:前者官方定位「最艰巨的开放式技术工作」,后者主打长程多步骤任务;两者都贵,按任务挑而不是全程挂
  • 中文项目优先 → Qwen4-Max / Kimi K3.1 Pro / 混元 Hy4:中文理解和生成最自然
  • 预算敏感又要多模态 → 混元 Hy4 flash(¥0.5 / ¥2,1M 上下文 + 视觉):官方推荐日常任务用它、复杂长程 SWE 才切 Hy4;比同价位竞品多一层「腾讯云自家产品已吃狗粮」的背书
  • 长文档 / 多模态 → Gemini 4 Argon 或 GPT-6.2 Astra:1M+ 上下文窗口,原生多模态
  • 预算敏感的中文任务 → GLM-5.3 / MiniMax M3.1 Flash:国产里的低价高吞吐档
  • 低成本试验 → DeepSeek-V4.1-Flash-1017 / GPT-6 Luna:开源模型中编码能力最强,或大厂里最便宜的一档
  • 既要旗舰能力又要能自托管 → deepseek-v4-pro:1.6T 参数的纯文本档,MIT 权重可下载自己跑,$0.66/$1.98 的低峰价只有 Opus 5.5 的 1/6(输入)到 1/10(输出);代价是不能看图,多模态任务得切回 deepseek-flash
  • 只想要一个 Key 打通全部 → OpenRouter:一个 API 调 500+ 模型、80+ 提供商,按需切换

怎么读 2026 年的版本号 ​

2026 下半年起,厂商集体放弃了「一个模型一个版本号」的线性叙事,改成同代多档 + 推理档位。直接后果是:版本号大不等于能力强。读规格表时先分清四层:

层级例子怎么看
代际GPT-6 → GPT-6.1 → GPT-6.2、Gemini 3.8 → Gemini 4只代表训练批次,常伴随架构与知识截止变化
同代档位Astra / Sol / Terra / Luna;Neon / Carbon / Argon / Hydrogen;Opus / Sonnet / Haiku;Luna 型低价档这是同一代的不同裁剪,Terra 弱于 Sol 不代表「版本更低」
推理强度low / medium / high / xhigh、Gemini 的 thinking level、Kimi 的 Highspeed同一模型换个档位,分数与成本可以差一倍以上
渠道与别名Bedrock / Vertex / 第三方路由的 ID;-preview、-flash、-lite同名不同渠道的限制与价格可能不同,preview 还有下线日

四条实用规则:

  1. 比价前先对齐档位。「$1/$5」通常是该代最便宜的那一档,拿它和别家的旗舰价比是错的。
  2. preview 不是产品。它随时可能被正式版顶掉、或按日下线——Qwen4-Max 预览 11-11 上线、11-16 就出了正式版并给出书面价格,预售期写的调用代码要留好换模型名的余地。判断一个 preview 是否值得接,看它有没有价格页与明确下线日,两者都没有就只当试用。
  3. 看到「同代多档」先问一句:它替代的是谁。厂商常把新档插在旧旗舰下方(如 6.1 Terra 之于 6.1 Sol),不是简单升级;也有反着来的——6.2 是往顶上盖了一层(Astra → 6.2 Astra、Sol → 6.1 Sol),旧旗舰没下架但不再是首选,这类「同名换代」最容易按旧价做预算。
  4. 模型名可能是个滚动别名。deepseek-flash 恒定指向「该档当前版本」(现在是 V4.1-Flash-1017),厂商升级时你不改一行代码就换了模型。要锁定行为,就把具体版本号写进配置和回归测试,别只记别名。

延伸:三种不是「LLM」的模型形态 ​

上面两张表列的都是可调用的 LLM API。但 2026 年「模型」这个词的外延已经扩大——选型时会遇到三类形态完全不同的东西,它们的评价标准(benchmark、延迟、成本)与 LLM 不通用。

形态代表它做什么关键区别
决策模型Jev(TypeSafe AI)、Gemini Decision 1(Google)只输出带概率的类型化判定:分类、评分、真/假不生成文本,结构上无法「胡说」;Jev 延迟 70–500ms(2026-09),Gemini Decision 1 端到端 150–250ms(2026-11-11)
世界模型Genie 4、NVIDIA Cosmos、Marble、V-JEPA 2理解并预测物理世界的演化,生成可交互环境吃视频级算力;主战场是仿真与具身智能,尚不能直接替换 LLM
专家混合(MoE)多数前沿开源模型稀疏激活——推理时只调用部分「专家」子网络是架构而非产品,决定推理成本与吞吐

决策模型:Jev ​

由 TypeSafe AI 于 2026-09 发布,创始人是前 OpenAI 研究员 Diogo Almeida(曾参与 ChatGPT 的指令遵循训练)。它属于「System One」路线:不生成任何文本,而是接收结构化状态(工单、消息、JSON),返回带校准置信度的答案。三种提问原语:

  • Choice —— 从至多 255 个预设选项中选一个,附各选项概率
  • Score —— 按 2–10 级的有序标准打分,结果可落在两级之间
  • Noul —— 是/否判断,返回 0–1 的概率(名字取自 Bernoulli)

它的定位是「快慢分工」里的快判断层:昂贵的大模型负责规划(慢思考),高频、原子化的判断交给决策模型。价格约 $0.042 / 百万输入 token,输出不计费。

⚠️ 两个使用前提:① 官方与集成方(Pydantic)均提示 prompt injection 可影响其判定——不适合单独作为 agent 的安全门禁;② 计数、算术、日期处理不可靠,且英文优先,目前未向中国大陆开放。

决策模型的第二个玩家:Gemini Decision 1 ​

2026-11-11 Google 发布了 Gemini Decisions API 与驱动它的新模型 gemini-decision-1,官方博文标题是《Introducing the Gemini Decisions API: Fast, calibrated multimodal decisions》。它和 Jev 是同一类东西(一次前向算完、只吐概率不吐字),但工程取舍几乎相反:

维度Jev(TypeSafe AI)Gemini Decision 1(Google)
输入结构化状态(工单、消息、JSON)原生多模态:文本、图像、音频、视频、PDF 混在同一份输入
单次规模一次一问一次请求最多 1,000 个独立问题,共享输入只计一次费;上下文上限 256K
提问原语Choice / Score / Noul同名三件套:noul(是/否)、choice(2–255 选项)、score(有序量表)
延迟70–500ms端到端 150–250ms,模型计算中位 50–100ms;1 题加到 100 题延迟几乎不变
价格约 $0.042 / 百万输入,输出不计费$0.10 / 百万输入,输出不计费,另不收思考 token、音频转写与 OCR 费
状态商用Preview,走 Gemini API v1beta 与 AI Studio,有免费层

对选型的影响有两条。一是这一品类不再只有创业公司:Google 自己已经把它用在 Gemini Notebook 的模型路由(普通查询延迟降约 40%)、Stitch 的流程线框图、Google Labs 的表情选择,以及 Google 搜索里作为 MCP 工具的安全层识别对抗行为——也就是说「决策模型负责快判断、生成模型负责慢思考」这套分工,已经从设想变成大厂内部的生产用法。二是它的短板是校准而非速度:官方称其在 9 项基准中拿下 7 项第一、校准误差全场最低,但有开发者用免费额度做了 54 次调用后指出:若候选里没有「其他」兜底,越界输入会被强行塞进已有类别(置信度还能给到 0.7 以上),而一旦补上「其他」选项,越界样本就都正确落到「其他」。所以对接这类 API 时,兜底选项与置信度阈值是设计的一部分,不是可选项。

⚠️ 两点边界:① 它不生成开放式文本,摘要、创作、多步推理仍要回到生成式模型;② Preview 阶段,接口与定价都可能变,别把它写进长期成本模型。另有同名但不同物——OpenAI 在 10-22 已 GA 的 Decisions API 是闭集打分接口,选型时别把两家的调用形态搞混。

世界模型(World Model) ​

目标是让模型理解物理世界如何演化,而不只是处理语言。2026 年分成两条技术路线:

  • 生成式路线 —— 直接生成像素。Google DeepMind Genie 4(2026-10 发布,先经 Project Genie 向合格的 Google AI Ultra 订阅者开放;2026-11-19 起 genie-4 在 Gemini API 的 Interactions API(v1beta)转为 GA,只开付费档,$1.50 / 百万输入、$9.00 / 百万文本输出、$17.50 / 百万视频输出,约合 $0.10/秒且已含立体声,无免费档;输出是 24 fps、16:9 的可操纵视频 + 48 kHz 立体声,经 WebRTC / WebSockets 流式下发,场景用一句文本、一张 16:9 参考图或两者起,之后用 WASD / 方向键加中途文本事件实时改机位与事件)官方称是其「最真实、最可交互」的一代:不再是单一生成模型,而是建立在 Gemini 家族之上——Gemini Omni 负责真实世界的外观与行为,其他 Gemini 模型提供维持模拟连贯性所需的推理;给一句文本或一张图起场景,之后可边跑边用提示词改事件、机位与声音。上一代 Genie 3(11B 参数自回归 Transformer,720p / 24fps)是 2026-01 起首批向 AI Ultra 开放的那一版;Waymo 已用这一系列微调出 Waymo World Model,专门生成现实中罕见的驾驶场景。NVIDIA Cosmos 是开源的世界基础模型平台,主要产出合成训练数据。
  • 隐空间路线 —— 只预测表征、不重建像素。Meta V-JEPA 2 用约 100 万小时视频预训练,再加仅 62 小时机器人数据,即可零样本完成抓放操作。Yann LeCun 于 2026 年初离开 Meta 创办 AMI Labs,专攻这条 JEPA 路线。

目前主要用于自动驾驶仿真、机器人训练与内容生成,还不是能直接替换 LLM API 的产品。

专家混合(MoE) ​

MoE 是架构而非产品:模型内部有多个「专家」子网络,每次推理只激活其中一小部分。因此总参数量(决定能力上限)与激活参数量(决定推理成本)是两个不同的数——看到「总参数 235B / 激活 22B」这类标注就是这种情况。它是当前主流开源模型压低推理成本的通用手段,选型时应关注激活参数而非总参数。

基于 CC BY-NC-SA 4.0 发布