新增证据:Jev 的 Choice 与 Noul 在同一概率问题上不同
2026-09-17。主训练和 checkpoint 选择结束后追加的诊断,不用于重训、调温度或选择模型。它改变的是后续训练监督的验收要求。
观测:本批明确随机机制的题目上,Choice 的分布明显比解析参考值集中;同一 state 下的 Noul 接近已给定的概率。不能仅凭“同一个教师给出的概率”就把不同原语的输出当作同含义、同质量的软标签。
1. 从大候选集合探测发现异常
先调用 40 次 Choice:K=2/5/20/64/255,分别测试唯一明确标签、均匀未揭示抽签、两个候选各半、明示0.7/0.2/0.1权重,每组原序与逆序各一次。
唯一明确标签的10个案例均与程序定义吻合。
30个随机机制案例的参考分布均不在返回值的 nearest-rounding 假设区间内。差距不能仅由两位小数舍入解释。
例如 K=2 的均匀抽签,最大项为0.95/0.96;K=255 为0.75/0.84,参考值为每项1/255。
四个返回向量总和为0.99,均为均匀抽签病例。没有观察到全零向量;不能把理论上的全零可能性说成已经实测发生。
原序/逆序最大逐项差达到0.09,但每种顺序仅一次,混有服务重复性因素,不能据此单独归因为顺序因果效应。
参考:全部输入与解析参考、40题结果。原始 teacher 响应未修改,另列归一化 proxy 仅作诊断,不伪称原始概率。
2. 用直接硬币语言与 Noul 做对照
为排除只在 label_000 这类符号上的问题,另做8次请求、24道题。每次同一个 state 同时提问:
Choice:这次隐藏的硬币结果是 heads 还是 tails?
Noul:这次隐藏的结果是 heads 吗?
Choice 事实识别:state 明确给出的 heads 概率是多少?候选0%、50%、70%、100%。
两种 instructions:普通问法,以及明确要求保留随机性、输出条件概率的问法;每种输入重复两次。state 明确说明已经抽样但结果未揭示,没有额外观测。结果如下:
| 已声明 P(heads) | 每组请求数 | Choice P(heads) 范围 | Noul P(heads) 范围 | 明示先验的识别 |
|---|---|---|---|---|
| 0.50 | 4 | 0.89–0.95 | 0.48–0.49 | 4/4选50% |
| 0.70 | 4 | 0.99–1.00 | 0.69 | 4/4选70% |
这削弱了“只是没理解数字”与“仅因候选名字不自然”的解释,也说明换成更显式的条件概率问法没有修复本组 Choice 输出。它没有定位内部 reward、temperature、归一化或服务实现的根因。不能据此声称所有 Choice 任务都失校准,也不能假定 Noul 在所有真实任务上已校准。
官方把 Choice 描述为候选的完整概率分布,把 Noul 描述为命题为 yes 的概率;因此当两题描述同一个二值事件、事实条件相同,跨原语一致性是值得加入的测试。Choice 文档、Noul 文档
可复跑脚本:probability semantics probe。逐次结果:JSON。脚本默认离线,付费模式拒绝覆盖已有原始日志,避免误重跑收费。
3. 对训练 pipeline 的具体影响
教师模仿与概率正确性继续分开验收。 KL(Jev || student) 下降只证明学生更像 Jev。若有经过定义和验证的条件概率真值,优先以它训练概率能力,并把模仿教师作为独立分支;不把两者冲突时的混合目标叫作“恢复真实分布”。
扩大数据时加入 programmatic_conditional_distribution 监督:生成器给出明确随机机制与可见信息,解析出 p(y|可见state)。它不是 LLM 自报概率,也不是一次随机 outcome 的 one-hot。可直接用完整 q 的 soft CE,或从机制采样 outcome 后用 proper loss;两种方式的期望目标一致,方差不同。
真实业务决策、主观偏好、类别认知不确定性和显式随机事件分开标记。这里的硬币探针覆盖最后一种,不能代替业务数据上的校准评估。新增检验包括不同 K、语义等价的 Choice/Noul、补充/移除证据、候选名称和顺序,以及每种类型自己的 NLL/Brier/可靠性。
不要把 binary reranker 的 yes/no logit 直接当作正确类别概率。 即便独立二分类恰好给出互斥类别的真实概率 [.7,.2,.1],对它们的 log-odds 再做 softmax,得到约 [.866,.093,.041],会改变目标。动态候选头应针对完整类别分布训练;是否从 reranker 初始化是另外的迁移问题。若显式训练最终归一化分布,目标的适当性仍取决于最终 loss,不能反过来断言所有 sigmoid-normalize 架构都不成立。
这批追加诊断也没有证明需要哪一种 RL。监督对象与概率语义不清时,换成 PPO/GRPO 不会自动修复。后续 exact Brier / calibrated reward 对照必须用意义明确的结果或分布标签。
40题费用$0.004269636,硬币对照8次费用$0.000160272,合计$0.004429908。当前 API 授权额度为$25,训练资源另算。
快照未包含部分工程附件或配图;请通过上游链接或原始材料查看,收录范围见来源清单。