三、三方模型(API)
← 上一章:二、Coding Plan | 返回总览 | 下一章:四、CLI 种类 →
三方模型指通过 API 调用的第三方大语言模型服务,涵盖国际主流和国产模型。
国际主流模型 API
| 模型 | 厂商 | 特点 |
|---|---|---|
| Claude API | Anthropic | 日常主力 Claude Opus 5.5(2026-09-22,claude-opus-5-5,$4/$20,1M 上下文);上探 Claude Fable 5.2 / Mythos 5.2(2026-11-09,$8/$40,1M 上下文 / 128K 输出,始终开启自适应思考,另有 2.5 倍速的 fast 模式 $16/$80);下探 Sonnet 5.5(09-28)/ Haiku 5.5(10-07)。Fable 与 Mythos 同权重、防护不同:Fable 面向所有用户,Mythos 仅限经审核的机构 |
| GPT-6 系列 | OpenAI | GPT-6.2 双档(2026-11-17 发布,均 1.05M 上下文 / 128K 输出):Astra(gpt-6.2-astra,$8/$40、缓存 $0.40,接替 GPT-6 Astra 当旗舰——输入输出比上代降 20%、缓存输入降 60%)与 Sol(gpt-6.2-sol,$2/$10、缓存 $0.10,维持 6.1 Sol 定价,接替 6.1 Sol 当日常主力)。两者都支持 low / medium / high / xhigh / max 五档 effort(无 none)与 Ultrafast 加速档(2027-02-28 前为标准价 3 倍、之后 6 倍),输入超 272K 按长上下文另计(Astra $16/$60、Sol $4/$15)。上一代 GPT-6 Astra(2026-09-03,$10/$50)、6.1 Sol(09-29)、6.1 Terra(10-26,$1/$5,偏视觉推理 / computer use / 写作)、Luna($0.10/$0.50,高吞吐)均未进弃用名单,API 仍可调用——6.2 是「往顶上插一层」,不是把旧档下线;也没有 6.2 Terra / 6.2 Luna,中低价位仍用 6.1 Terra 与 GPT-6 Luna。Pro 已变为 reasoning effort 档位而非独立模型;GPT-5.5 于 2026-10-14 从 ChatGPT / Codex 下线,API 仍可调用。另有一条受审核的门类专用线:GPT-6 Cyber(2026-11-05,gpt-6-cyber,$20/$100,1.05M 上下文 / 922K 输入 / 128K 输出),是 GPT-6 Astra 的网络安全后训练变体,只对通过 Daybreak Red 审核的组织开放(普通 API Key 调不到,企业还需单独为该模型申请);官方明说它在通用编码上并不优于 GPT-6 Astra,价值在于「Astra 会拒掉的授权渗透任务它能做完」 |
| Gemini 系列 | 四档分工:Gemini 4 Neon(2026-11-18 直接 GA,官方定位夹在 Hydrogen 与 Carbon 之间——要「前沿级质量 + 端到端更快」,面向高频的复杂工程 / 知识工作 / 科研任务;$3/$15、缓存 $0.15(只支持隐式缓存)、统一 1M 上下文、长输出可续写到 1M(同步档默认 64K)、四档思考 low / medium / high(默认) / xhigh、无免费档;同日成为 Antigravity 里「没手动选模型时的默认」与 Managed Agents 可选项)、Gemini 4 Carbon(10-28 发布,11-10 起对全部付费开发者开放,主打编码与长程 agent)、Gemini 4 Argon(2026-10-13 公开,1,048,576 上下文、单次输出上限 943,718)与 Gemini 4 Hydrogen(2026-11-12 发布,定位「快速执行引擎」,输入+输出合计 1,048,576、单段输出上限 65,536(更长输出要走续写),同四档思考,$1.50/$7.50 为常规价不涨价,既可单用也可与 Neon / Carbon / Argon 搭班;11-14 起成为 Search「AI 模式」的默认模型)。Argon 与 Carbon 的推广价 $2/$10 只到 2026-11-30,12-01 起 $4/$20(缓存输入同步 $0.10 → $0.20);四个 Gemini 4 档位在弃用表上都没有下线日期。3.8 Flash 已被 Hydrogen 接替——官方迁移指南把 gemini-3.8-flash 直接指向 gemini-4-hydrogen,Vertex 上仍可调用至 2027-09-02 弃用日;3.8 Live 仍在役,3.1 Pro 已非旗舰;Gemini 3.5 Pro 未发布。同日 API 另开一项能力:Word / PowerPoint / Excel 等 Office 与 OpenDocument 文件可直接传,并能按页码范围、工作表页签、单元格区域、时间段或内容层(页图 / 提取文本 / 公式 / 视频逐字稿)切片,只为你真正要处理的那部分付费 | |
| Muse Ember | Meta | 2026-11-09 起经 Meta Model API(配套 Muse Code)对外服务,Meta 首度把自研模型做成付费 API:Muse 家族里最小的一档,1M 上下文、原生文本 / 图像 / 音频 / 视频输入,$0.10 / $0.50——与 GPT-6 Luna、DeepSeek Flash 同一价格带,定位重复性 agent 任务的低成本执行层。参数量未公布 |
⚠️ 上下文窗口的口径:表中的数值是厂商规格书里的上限,实际可用量受输出预留、计费方式与接入渠道影响。同一模型在不同云渠道(如 AWS Bedrock)的标注可能不一致,选型前请以你实际接入的那个渠道的文档为准。
国产主流模型 API
| 模型 | 厂商 | 特点 |
|---|---|---|
| DeepSeek | 深度求索 | 两档并行:deepseek-flash(V4.1-Flash-1017,2026-10-17:552B MoE、预填充 8B / 解码 16B 激活、原生多模态、1M 上下文、MIT 权重)与 deepseek-v4-pro(V4-Pro-0813:1.6T / 49B 激活、纯文本、1M 上下文)。低峰 $0.15/$0.60 与 $0.66/$1.98,高峰翻倍;接口协议、周边 API 与计费口径见下节 |
| Qwen 系列 | 阿里 | 现役旗舰 Qwen4-Max(2026-11-16 正式发布,模型名 qwen4-max):总参 2.4T / 每 token 激活 71B(另有 328B N-gram embedding 参数),Gated DeltaNet + Qwen 稀疏注意力的新架构,原生视觉(文本 / 图片 / 视频入、文本出)、1M 上下文、思考与非思考同价。定价:北京 ¥10 / ¥30、缓存命中 ¥0.5;国际站 $1.50 / $4.50、缓存 $0.075(比 Qwen3.8-Max 国际价低 25%)。权重不开放——官方只说「中小尺寸 Qwen4 将陆续开源」,截至 11-18 未落地。上一代 Qwen3.8-Max(2026-08-03,2.4T / 激活 95B)仍在架但已退居次席;11-11 上线的 qwen4-max-preview 已被正式版接替 |
| Kimi K3.1 Pro | 月之暗面 | K3.1 Pro(2026-10-23):2.8T 总参 / 104B 激活、原生图像输入、1M 上下文;$2/$10(缓存 $0.20),Highspeed 档 $4/$20;权重 11-02 上 HF(自有许可)。K2 系列已于 10-31 停止新用户接入 |
| GLM-5.3 | 智谱 AI | 2026-08 上线,MoE 744B 总参 / 40B 激活;文本输入 1M、输出 128K。已扩展为 Flash / FlashX / Prime 家族;下一代(5.4 / 5.5)截至 11 月未发布 |
| MiniMax M3.1 Flash | MiniMax | 在 M3(2026-06-01,428B / 23B)基础上于 2026-10-19 推出:428B 总参 / 23B 激活、1M 上下文、$0.15/$0.60;厂商称 agent 任务成本较前代降约 70%(自述口径)。另有音乐、语音、视频模型 |
| 混元 Hy4 | 腾讯 | 两档并行。Hy4 flash(2026-11-16):220B 总参(官方模型卡口径:155.5B 主干 + 63.5B Engram + 0.43B ViT + 0.85B DFly2)/ 每 token 激活 11.3B 文本 + 0.43B 视觉、多模态、1M 上下文,¥0.5 / ¥2 / 缓存 ¥0.02(每百万 token),解码 >150 tps,KV cache 只有 Hy4 的 1/6;官方定位「大多数日常任务用它」(深度搜索、文档与 PPT、简单前端、Computer Use),长程软件工程才上 Hy4,并称单任务成本为 Hy4 的 1/20——按的是自家 WorkIndex 内部评测,不是公开榜单。已在腾讯云 TokenHub / WorkBuddy / 元宝 / 企业微信 / QQ / ima 上线,OpenRouter 待接入;2026-11-18 已开放权重——Hy4-flash / Hy4-flash-FP8 / Hy4-flash-base 三个仓库上 Hugging Face、ModelScope、GitCode 与 GitHub,按腾讯 Hy License 发布,官方同时预告 Hy4 本体也在加速开源。Hy4 正式版(2026-11-04):770B 总参 / 49B 激活、1M 上下文,首次引入视觉理解与 Computer Use,¥6 / ¥18 / 缓存 ¥0.3。实时语音线 Hy Realtime(11-13)新增 Agentic 工具调用与唱歌,已在元宝语音通话 / 腾讯客服上线,腾讯云 API 尚未开放、无对外定价 |
| Mistral Large 4 | Mistral | 代号 Le Chonk:2026-10-06 预览、10-29 转为开源权重,$0.70/$2.10(缓存 $0.07)。欧洲阵营当前最能打的一款编码模型 |
DeepSeek:一个 Key 下的 API 全家桶
DeepSeek 是国内少数把「模型 + 协议 + 周边工具」都收在同一个平台上的厂商。2026 年它的形态分三层:两个模型名、三种协议格式(外加一个 Beta 通道)、一组不计 token 的周边 API。
模型层:只有两个名字
| API 模型名 | 对应版本 | 结构 | 上下文 / 输出 | 视觉 | 并发上限 | 低峰价(命中 / 未命中 / 输出,$ per 1M) |
|---|---|---|---|---|---|---|
deepseek-flash | DeepSeek-V4.1-Flash-1017 | 552B MoE,预填充 8B / 解码 16B 激活 | 1M / 384K | ✅ | 2,500 | $0.003 / $0.15 / $0.60 |
deepseek-v4-pro | DeepSeek-V4-Pro-0813 | 1.6T MoE / 49B 激活 | 1M / 384K | ❌ | 500 | $0.022 / $0.66 / $1.98 |
高峰价 = 低峰价 × 2。 但别被「高峰」吓住:官方定义的高峰只有 UTC 01:00–04:00 与 06:00–10:00、周一至周五、不含中国法定节假日——换成北京时间正好是 09:00–12:00 和 14:00–18:00 两个工作时段。也就是说夜里、清晨和整个周末都是半价,批处理与评测任务挪到晚上能直接砍一半成本。缓存命中约为未命中的 1/50(Flash)和 1/30(Pro),把长 system prompt 和文档固定在请求最前面即可命中。
接口层:三种协议,加一个 Beta 通道
| 格式 | Base URL | 用途 |
|---|---|---|
| OpenAI Chat Completions | https://api.deepseek.com | 事实上的默认入口,改个 base_url 就能把现有 OpenAI SDK / 工具切过来 |
| OpenAI Responses | 同上 | 新版 agent 接口,Codex 一类工具走这条 |
| Anthropic Messages | https://api.deepseek.com/anthropic | 给 Claude Code 及兼容 Anthropic 的客户端直连(走 x-api-key 认证) |
| Beta | https://api.deepseek.com/beta | FIM 补全、对话前缀续写、严格工具模式 |
两档模型的能力基本对齐:JSON 输出、工具调用、Responses API、Anthropic API、对话前缀续写(Beta)、FIM 补全(Beta,仅非思考模式)。硬差异有两条,都落在 Flash 一侧:① 图像输入只有 Flash 支持,Pro 是纯文本模型——要「看图改代码」就得走 Flash;② 2026-11-13 开放的内置应用工具(联网、读链接、文件输入、安全检查)也只挂在 deepseek-flash 上,deepseek-v4-pro 至今不支持。见到「两档基本对齐」的说法要留个心眼:凡是涉及多模态与 App 级工具的用法,实际只有 Flash 一条路。
思考模式是开关,不是另一个模型
deepseek-chat / deepseek-reasoner 两个旧名字已于 2026-07-24 退役,R1 式的显式推理变成 V4 的思考模式:请求里传 thinking: {"type": "enabled"}(默认就是开启),reasoning_effort 取 low / high(默认)/ max。三个容易踩的点:
- 思考模式下
temperature无效,tool_choice: "required"会直接返回 400——这类请求要先把思考关掉 - 默认
max_tokens随档位变:关闭思考 8K、开启 64K、max档 128K - 带工具的循环里,上一轮的
reasoning_content必须原样回传,否则 400;不用工具时可以省略
周边 API:搜索、抓取、解析、语音
| 能力 | 接口 | 价格 | 备注 |
|---|---|---|---|
| 联网搜索 | POST /v1/tools/search | $0.75 / 千次成功请求 | 支持 site:、lang:、after:、before:、精确短语等检索符;返回带 rerank_score 与权威度分级(0–4) |
| 网页抓取 | POST /v1/tools/fetch | $0.75 / 千次成功请求 | 直接返回 Markdown 正文 |
| Web Tools | 随对话由模型自行调用 | 2026-11-18 12:00(北京)起免费 | 模型侧触发的服务端搜索与网页抓取不再计费,只算 token;单独调 /v1/tools/search、/v1/tools/fetch 仍按上两行收费 |
| 文件解析 / OCR | 文档解析、OCR API | $0.225 / 千页 | 扫描件先过这一层,再喂给模型 |
| 语音合成 TTS | TTS API | 限时五折 $0.225 / 万字符(原价 $0.45) | |
| 语音识别 ASR | ASR API | 限时五折 $0.058 / 小时(原价 $0.116) |
几个计费与配额细节:搜索/抓取只对成功请求计费,失败、空结果、超时都不算钱;两者 QPS 上限分别是 100 与 25,按账号统计而非按 Key,和模型并发上限互不占用。从 2026-11-18 12:00(北京时间)起,模型在对话中自行触发的服务端搜索与抓取不再单独计费——只按 token 结算;要收费的只剩开发者显式调用 /v1/tools/* 那种「搜索 API 本身」。此外还有 GET /models、GET /user/balance 与 Files 等管理接口。
内置应用能力:把 App 的对话体验做成参数(2026-11-13)
上面那组周边 API 要自己拼装——搜索完把结果回填进上下文、文件解析完再拼 prompt。2026-11-13 官方又开了一条更省事的路子:在原有 Messages / Responses / Chat Completions 请求里打开对应参数,工具调用与上下文拼接全由服务端完成,不必自己在客户端写编排。四项能力:
- 联网搜索(
deepseek_web_search):关闭思考时按需搜网页或图片并给出引用;开启思考时同一个工具会多轮推理式地搜和读链接 - 文件输入:上传 PDF、Office 文档、图片,经纯文本抽取或富版面解析后进入对话上下文
- 读链接(
deepseek_read_url):模型自行识别用户消息里的链接并抓取正文 - 安全检查:审查输入与输出,命中风险时返回拒答标记。面向公众提供服务必须开启,并履行内容安全审核、大模型备案、AI 标识等义务
⚠️ 这三件事都只对 deepseek-flash 生效,deepseek-v4-pro 不支持——这也是上节说的第二条硬差异。另外官方把整套能力做成了一个开源 Demo 客户端(chat-demo),能导入 DeepSeek 的历史对话,可以直接当参考实现看。计费上只剩 token 一条线:2026-11-18 12:00(北京)起,这套内置能力触发的搜索与抓取已不再按次收费,「开参数 = 多花钱」的顾虑可以去掉;但显式调 /v1/tools/search、/v1/tools/fetch 的老路子仍按 $0.75/千次计。
三个名字上的坑
- ⚠️
deepseek-v4-flash、deepseek-v4-flash-vision-exp仍可用,但对应模型已退役——请求会被路由到 V4.1-Flash 并按 Flash 价计费(2026-09-10 起)。老代码不改也不会报错,但你以为在调旧模型,其实已经换人了。 - ⚠️ 不存在「DeepSeek V4.1-Pro」。09-10 的发布说明里曾写要把
deepseek-v4-pro的请求临时路由到 Flash「直到 V4.1-Pro 发布」,开发者反对后官方撤回,这个名字至今没有模型卡、没有价格行、没有权重。中文文章里给它编的参数与价格,都是把家族数据挪了个标签。 - ⚠️ 官方文档在
api-docs.deepseek.com,控制台在platform.deepseek.com;deepseek.ai一类站点是第三方整理页,数字大体对得上但不能当官方口径引用。
想自己搭 agent 的话,DeepSeek 官方还开了一个 MIT 协议的运行时 DSH(DeepSeek Harness),
Model + Harness = Agent这个说法就是从它来的——详见第四章 CLI 工具。
模型聚合平台
- OpenRouter:统一 API 网关,支持 500+ 模型、80+ 提供商,OpenAI 兼容接口
- Hugging Face:提供开源模型托管和推理服务
模型选型对比
编程场景
| 模型 | 编码能力 | 价格(输入/输出,每百万 token) | 上下文 | 速度 | 中文代码注释 |
|---|---|---|---|---|---|
| Claude Fable 5.2 | ⭐⭐⭐⭐⭐ | $8 / $40 | 1M | 快 | ⭐⭐⭐⭐ |
| Claude Opus 5.5 | ⭐⭐⭐⭐⭐ | $4 / $20 | 1M | 中 | ⭐⭐⭐⭐ |
| GPT-6.2 Astra | ⭐⭐⭐⭐⭐ | $8 / $40 | 1.05M | 中 | ⭐⭐⭐ |
| GPT-6.2 Sol | ⭐⭐⭐⭐⭐ | $2 / $10 | 1.05M | 快 | ⭐⭐⭐ |
| Gemini 4 Carbon | ⭐⭐⭐⭐⭐ | $2 / $10(推广价) | 1M | 快 | ⭐⭐⭐ |
| Gemini 4 Neon | ⭐⭐⭐⭐⭐ | $3 / $15 | 1M | 快 | ⭐⭐⭐ |
| Gemini 4 Hydrogen | ⭐⭐⭐⭐ | $1.50 / $7.50 | 1M | 很快 | ⭐⭐⭐ |
| Kimi K3.1 Pro | ⭐⭐⭐⭐⭐ | $2 / $10 | 1M | 快 | ⭐⭐⭐⭐⭐ |
| DeepSeek-V4.1-Flash-1017 | ⭐⭐⭐⭐ | $0.15 / $0.60(低峰) | 1M | 快 | ⭐⭐⭐⭐⭐ |
| DeepSeek-V4-Pro-0813 | ⭐⭐⭐⭐⭐ | $0.66 / $1.98(低峰) | 1M | 中 | ⭐⭐⭐⭐⭐ |
| Qwen4-Max | ⭐⭐⭐⭐ | ¥10 / ¥30 | 1M | 快 | ⭐⭐⭐⭐⭐ |
| 混元 Hy4 | ⭐⭐⭐⭐ | ¥6 / ¥18 | 1M | 中 | ⭐⭐⭐⭐⭐ |
| GLM-5.3 | ⭐⭐⭐ | $1.40 / $4.40 | 1M | 快 | ⭐⭐⭐⭐⭐ |
| MiniMax M3.1 Flash | ⭐⭐⭐ | $0.15 / $0.60 | 1M | 很快 | ⭐⭐⭐⭐ |
Argon 与 Carbon 的 $2/$10 是推广价,2026-11-30 到期、12-01 起翻倍到 $4/$20——按现价做的预算要留出这一档。Hydrogen 的 $1.50/$7.50 与 Neon 的 $3/$15 都是常规价,不在此列。
Hydrogen 的定位值得单独记:它默认
high思考档在 Artificial Analysis 智能指数拿到 51,高于 Argon 的 50,xhigh档 54;但它是「执行引擎」而非「前沿判断」——官方给的分工是 Carbon / Argon / Neon 做架构判断,Hydrogen 写代码、跑测试、验变更。同理,Antigravity 的 Orchestrator 就是按这个分工自动换模型,2026-11-18 起规划档从 Carbon 换成 Neon(Neon 规划、Hydrogen 执行),官方称 Terminal-Bench 4.0 成功率接近 Carbon,配额少用 24%、快 19%。官方另称 Hydrogen 单跑 Terminal-Bench 4.1 得 57%(3.8 Flash 仅 18.2%)、默认档任务快 2.5 倍——这正是 Google 敢直接弃用 Flash 品牌改名的底气;代价是原有gemini-3.8-flash调用必须改模型名,thinking_budget在 Gemini 4 上直接返回 400。
非编程场景
| 场景 | 首选 | 次选 | 理由 |
|---|---|---|---|
| 长文档分析 | Gemini 4 Argon / GPT-6.2 Astra | Claude Opus 5.5 / Kimi K3.1 Pro | 1M+ 上下文,原生多模态 |
| 中文写作 | Qwen4-Max / Kimi K3.1 Pro | 混元 Hy4 / DeepSeek-V4.1-Flash | 中文理解精准,文风自然 |
| 多轮对话 | Claude Opus 5.5 | GPT-6.2 Sol | 指令遵循强,逻辑一致 |
| 多模态理解 | Gemini 4 Argon | GPT-6.1 Terra | 原生多模态,Terra 偏视觉推理 |
| 看图操作桌面 | 混元 Hy4 / GPT-6.1 Terra | Gemini 4 Carbon | 内置 Computer Use 或屏幕理解 |
| 低成本大批量 | DeepSeek-V4.1-Flash-1017 | GPT-6 Luna / MiniMax M3.1 Flash | 开源低价,推理成本极低 |
| 语音/音乐生成 | MiniMax M3.1 Flash | — | 原生语音和音乐模型 |
选型建议
- 日常编码 → Claude Opus 5.5(质量与价格最平衡)或 GPT-6.2 Sol($2/$10 一档,缓存便宜);DeepSeek-V4.1-Flash-1017 性价比最佳
- 最难的迁移 / 长周期 agent → Claude Fable 5.2 或 Gemini 4 Carbon:前者官方定位「最艰巨的开放式技术工作」,后者主打长程多步骤任务;两者都贵,按任务挑而不是全程挂
- 中文项目优先 → Qwen4-Max / Kimi K3.1 Pro / 混元 Hy4:中文理解和生成最自然
- 预算敏感又要多模态 → 混元 Hy4 flash(¥0.5 / ¥2,1M 上下文 + 视觉):官方推荐日常任务用它、复杂长程 SWE 才切 Hy4;比同价位竞品多一层「腾讯云自家产品已吃狗粮」的背书
- 长文档 / 多模态 → Gemini 4 Argon 或 GPT-6.2 Astra:1M+ 上下文窗口,原生多模态
- 预算敏感的中文任务 → GLM-5.3 / MiniMax M3.1 Flash:国产里的低价高吞吐档
- 低成本试验 → DeepSeek-V4.1-Flash-1017 / GPT-6 Luna:开源模型中编码能力最强,或大厂里最便宜的一档
- 既要旗舰能力又要能自托管 →
deepseek-v4-pro:1.6T 参数的纯文本档,MIT 权重可下载自己跑,$0.66/$1.98 的低峰价只有 Opus 5.5 的 1/6(输入)到 1/10(输出);代价是不能看图,多模态任务得切回deepseek-flash - 只想要一个 Key 打通全部 → OpenRouter:一个 API 调 500+ 模型、80+ 提供商,按需切换
怎么读 2026 年的版本号
2026 下半年起,厂商集体放弃了「一个模型一个版本号」的线性叙事,改成同代多档 + 推理档位。直接后果是:版本号大不等于能力强。读规格表时先分清四层:
| 层级 | 例子 | 怎么看 |
|---|---|---|
| 代际 | GPT-6 → GPT-6.1 → GPT-6.2、Gemini 3.8 → Gemini 4 | 只代表训练批次,常伴随架构与知识截止变化 |
| 同代档位 | Astra / Sol / Terra / Luna;Neon / Carbon / Argon / Hydrogen;Opus / Sonnet / Haiku;Luna 型低价档 | 这是同一代的不同裁剪,Terra 弱于 Sol 不代表「版本更低」 |
| 推理强度 | low / medium / high / xhigh、Gemini 的 thinking level、Kimi 的 Highspeed | 同一模型换个档位,分数与成本可以差一倍以上 |
| 渠道与别名 | Bedrock / Vertex / 第三方路由的 ID;-preview、-flash、-lite | 同名不同渠道的限制与价格可能不同,preview 还有下线日 |
四条实用规则:
- 比价前先对齐档位。「$1/$5」通常是该代最便宜的那一档,拿它和别家的旗舰价比是错的。
preview不是产品。它随时可能被正式版顶掉、或按日下线——Qwen4-Max 预览 11-11 上线、11-16 就出了正式版并给出书面价格,预售期写的调用代码要留好换模型名的余地。判断一个preview是否值得接,看它有没有价格页与明确下线日,两者都没有就只当试用。- 看到「同代多档」先问一句:它替代的是谁。厂商常把新档插在旧旗舰下方(如 6.1 Terra 之于 6.1 Sol),不是简单升级;也有反着来的——6.2 是往顶上盖了一层(Astra → 6.2 Astra、Sol → 6.1 Sol),旧旗舰没下架但不再是首选,这类「同名换代」最容易按旧价做预算。
- 模型名可能是个滚动别名。
deepseek-flash恒定指向「该档当前版本」(现在是 V4.1-Flash-1017),厂商升级时你不改一行代码就换了模型。要锁定行为,就把具体版本号写进配置和回归测试,别只记别名。
延伸:三种不是「LLM」的模型形态
上面两张表列的都是可调用的 LLM API。但 2026 年「模型」这个词的外延已经扩大——选型时会遇到三类形态完全不同的东西,它们的评价标准(benchmark、延迟、成本)与 LLM 不通用。
| 形态 | 代表 | 它做什么 | 关键区别 |
|---|---|---|---|
| 决策模型 | Jev(TypeSafe AI)、Gemini Decision 1(Google) | 只输出带概率的类型化判定:分类、评分、真/假 | 不生成文本,结构上无法「胡说」;Jev 延迟 70–500ms(2026-09),Gemini Decision 1 端到端 150–250ms(2026-11-11) |
| 世界模型 | Genie 4、NVIDIA Cosmos、Marble、V-JEPA 2 | 理解并预测物理世界的演化,生成可交互环境 | 吃视频级算力;主战场是仿真与具身智能,尚不能直接替换 LLM |
| 专家混合(MoE) | 多数前沿开源模型 | 稀疏激活——推理时只调用部分「专家」子网络 | 是架构而非产品,决定推理成本与吞吐 |
决策模型:Jev
由 TypeSafe AI 于 2026-09 发布,创始人是前 OpenAI 研究员 Diogo Almeida(曾参与 ChatGPT 的指令遵循训练)。它属于「System One」路线:不生成任何文本,而是接收结构化状态(工单、消息、JSON),返回带校准置信度的答案。三种提问原语:
- Choice —— 从至多 255 个预设选项中选一个,附各选项概率
- Score —— 按 2–10 级的有序标准打分,结果可落在两级之间
- Noul —— 是/否判断,返回 0–1 的概率(名字取自 Bernoulli)
它的定位是「快慢分工」里的快判断层:昂贵的大模型负责规划(慢思考),高频、原子化的判断交给决策模型。价格约 $0.042 / 百万输入 token,输出不计费。
⚠️ 两个使用前提:① 官方与集成方(Pydantic)均提示 prompt injection 可影响其判定——不适合单独作为 agent 的安全门禁;② 计数、算术、日期处理不可靠,且英文优先,目前未向中国大陆开放。
决策模型的第二个玩家:Gemini Decision 1
2026-11-11 Google 发布了 Gemini Decisions API 与驱动它的新模型 gemini-decision-1,官方博文标题是《Introducing the Gemini Decisions API: Fast, calibrated multimodal decisions》。它和 Jev 是同一类东西(一次前向算完、只吐概率不吐字),但工程取舍几乎相反:
| 维度 | Jev(TypeSafe AI) | Gemini Decision 1(Google) |
|---|---|---|
| 输入 | 结构化状态(工单、消息、JSON) | 原生多模态:文本、图像、音频、视频、PDF 混在同一份输入 |
| 单次规模 | 一次一问 | 一次请求最多 1,000 个独立问题,共享输入只计一次费;上下文上限 256K |
| 提问原语 | Choice / Score / Noul | 同名三件套:noul(是/否)、choice(2–255 选项)、score(有序量表) |
| 延迟 | 70–500ms | 端到端 150–250ms,模型计算中位 50–100ms;1 题加到 100 题延迟几乎不变 |
| 价格 | 约 $0.042 / 百万输入,输出不计费 | $0.10 / 百万输入,输出不计费,另不收思考 token、音频转写与 OCR 费 |
| 状态 | 商用 | Preview,走 Gemini API v1beta 与 AI Studio,有免费层 |
对选型的影响有两条。一是这一品类不再只有创业公司:Google 自己已经把它用在 Gemini Notebook 的模型路由(普通查询延迟降约 40%)、Stitch 的流程线框图、Google Labs 的表情选择,以及 Google 搜索里作为 MCP 工具的安全层识别对抗行为——也就是说「决策模型负责快判断、生成模型负责慢思考」这套分工,已经从设想变成大厂内部的生产用法。二是它的短板是校准而非速度:官方称其在 9 项基准中拿下 7 项第一、校准误差全场最低,但有开发者用免费额度做了 54 次调用后指出:若候选里没有「其他」兜底,越界输入会被强行塞进已有类别(置信度还能给到 0.7 以上),而一旦补上「其他」选项,越界样本就都正确落到「其他」。所以对接这类 API 时,兜底选项与置信度阈值是设计的一部分,不是可选项。
⚠️ 两点边界:① 它不生成开放式文本,摘要、创作、多步推理仍要回到生成式模型;② Preview 阶段,接口与定价都可能变,别把它写进长期成本模型。另有同名但不同物——OpenAI 在 10-22 已 GA 的 Decisions API 是闭集打分接口,选型时别把两家的调用形态搞混。
世界模型(World Model)
目标是让模型理解物理世界如何演化,而不只是处理语言。2026 年分成两条技术路线:
- 生成式路线 —— 直接生成像素。Google DeepMind Genie 4(2026-10 发布,先经 Project Genie 向合格的 Google AI Ultra 订阅者开放;2026-11-19 起
genie-4在 Gemini API 的 Interactions API(v1beta)转为 GA,只开付费档,$1.50 / 百万输入、$9.00 / 百万文本输出、$17.50 / 百万视频输出,约合 $0.10/秒且已含立体声,无免费档;输出是 24 fps、16:9 的可操纵视频 + 48 kHz 立体声,经 WebRTC / WebSockets 流式下发,场景用一句文本、一张 16:9 参考图或两者起,之后用 WASD / 方向键加中途文本事件实时改机位与事件)官方称是其「最真实、最可交互」的一代:不再是单一生成模型,而是建立在 Gemini 家族之上——Gemini Omni 负责真实世界的外观与行为,其他 Gemini 模型提供维持模拟连贯性所需的推理;给一句文本或一张图起场景,之后可边跑边用提示词改事件、机位与声音。上一代 Genie 3(11B 参数自回归 Transformer,720p / 24fps)是 2026-01 起首批向 AI Ultra 开放的那一版;Waymo 已用这一系列微调出 Waymo World Model,专门生成现实中罕见的驾驶场景。NVIDIA Cosmos 是开源的世界基础模型平台,主要产出合成训练数据。 - 隐空间路线 —— 只预测表征、不重建像素。Meta V-JEPA 2 用约 100 万小时视频预训练,再加仅 62 小时机器人数据,即可零样本完成抓放操作。Yann LeCun 于 2026 年初离开 Meta 创办 AMI Labs,专攻这条 JEPA 路线。
目前主要用于自动驾驶仿真、机器人训练与内容生成,还不是能直接替换 LLM API 的产品。
专家混合(MoE)
MoE 是架构而非产品:模型内部有多个「专家」子网络,每次推理只激活其中一小部分。因此总参数量(决定能力上限)与激活参数量(决定推理成本)是两个不同的数——看到「总参数 235B / 激活 22B」这类标注就是这种情况。它是当前主流开源模型压低推理成本的通用手段,选型时应关注激活参数而非总参数。
