欢迎大家提Issue反馈问题或建议,建设推理王国!
Skip to content

第1章:对抗熵增——推理作为存活策略 ​

一个系统如果不能预测下一刻,它就会被下一刻摧毁。


一、宇宙有一个方向 ​

我想先给你讲一个关于冰块的故事。

你把一块冰放进一杯温水里。你等一会儿。冰融化了,水变凉了。这件事你见过一千次,你觉得它无聊,你觉得它理所当然。但如果你真的坐下来想一想,这件事里藏着一个让物理学家困扰了将近两百年的谜题。

你见过这个过程反过来吗?一杯温水,突然之间,某个角落自发地结成了冰,而其余的水变得更热?你没见过。不是因为这违反了任何力学定律——牛顿的方程是时间对称的,正着跑和倒着跑都成立。而是因为热力学第二定律给宇宙规定了一个方向。

这个方向的名字叫熵增。

熵,粗略地讲,是一个系统的“混乱程度”,或者更精确地说,是一个宏观状态对应的微观状态数的对数。冰融化进温水,是从一个有序的、可能性极少的状态,走向一个无序的、可能性极多的状态。这个过程自发发生,因为后者在统计上压倒性地更可能。反过来的过程不是不可能,只是极度不可能——在宇宙年龄的时间尺度上,你可能都等不到它发生一次。

热力学第二定律与熵:不懂物理也能读懂

熵(entropy)是物理学里衡量“无序程度”的量。你不需要记住公式,只需要记住一个直觉:东西自然而然总是从有序走向无序——杯子会碎,但碎片不会自己拼回去;房间会乱,但不会自己整理好。这种单向性,就是热力学第二定律的本质。

“熵增”就是“无序程度增加”的意思。整个宇宙的总熵在不断增加,这是一个在实验上被无数次验证的物理事实。

为什么生物体能局部维持有序?因为它们不是孤立系统——它们靠消耗外界能量(食物、阳光)来维持内部秩序,同时向外界排放更多的热(废热)。总账算下来,宇宙整体的熵还是在增加。

所以宇宙有一个方向:向着更混乱,向着更无序,向着更高的熵。

现在,在这个朝着混乱奔去的宇宙里,有一些非常奇怪的东西。

它们叫做活的生物。


二、逆流而上的生物 ​

一个活的细胞是热力学意义上的奇迹。

不是因为它违反了第二定律——它没有。一个细胞对抗局部的熵增,是通过向外界排出更多的熵来实现的。它消耗有序的化学能(葡萄糖、ATP),把它降解为无序的废热,向外界排放。从整个系统(细胞+环境)来看,总熵依然在增加。但在细胞内部,维持着惊人的有序性:精确折叠的蛋白质,精确调控的离子梯度,精确转录的遗传信息。

薛定谔在 1944 年的小册子《生命是什么》里,用了一个漂亮的说法:生物体靠吃“负熵”为生。它从环境里摄取低熵的东西,排出高熵的废物,用这个差值来维持自身的秩序。

但你注意到了吗——维持内部秩序,只是活着的必要条件,不是充分条件。

一块晶体也是高度有序的。食盐的晶格,雪花的六重对称,石英的规则排列。它们在合适的条件下可以无限期地维持自己的结构,不需要消耗能量,不需要排出废热。然而我们不会说晶体在“活着”。

原因在于:晶体的秩序是静态的。它不需要响应外界,不需要对变化做出反应,不需要预测未来。它只是被动地存在着。只要环境不超过它的物理极限(不融化,不破碎),它就能继续存在。

生物面对的问题完全不同。外界是动态的,是变化的,有时候是敌对的。捕食者会出现,温度会骤变,食物源会消失,竞争者会到来。一个活的系统不仅要维持内部秩序,还要对外部世界的变化做出恰当的响应——而且要在变化造成破坏之前就做出响应。

这需要预测。


三、预测不是奢侈品,是必需品 ​

让我换一个角度来说这件事。

想象一个非常简单的生物——一个单细胞细菌,在一个有食物梯度的环境里游动。食物浓度高的地方,它应该待着;食物浓度低的地方,它应该离开。但细菌很小,它无法同时感知两个地方的浓度差——它只能感知自己所在位置的浓度。

它怎么知道自己是在向浓度高的方向走,还是在向浓度低的方向走?

答案是:它记住了一秒钟前的浓度,和现在的浓度比较。如果现在比刚才高,就继续前进;如果现在比刚才低,就改变方向。

这是一种非常原始的预测——预测“如果继续朝这个方向走,浓度会继续升高”。它甚至配不上“预测”这个名字,只是一个简单的时间差分。但它已经足够让细菌在食物梯度里导航了。

现在把时间尺度拉长,把复杂度提高。

一只青蛙在等待蚊子。它不是等到蚊子飞进嘴里才反应——它的视觉系统会提前追踪轨迹,它的舌头已经在蚊子到达之前弹出。这里有预测:对蚊子路径的预测,对时间差的估计,对何时出击的校准。

一只黑猩猩在看另一只黑猩猩的眼睛,试图判断它是不是要发动攻击。这里有更复杂的预测:对另一个体意图的推断,对行为模式的识别,甚至对“对方在想什么”的某种粗糙模型。

一个生物体的预测越精细,它的认知就越复杂。这不是偶然的。能够更好地预测世界的生物,存活得更好,繁殖得更多,把自己的预测机制传递给后代。 进化在某种意义上是一个关于预测能力的筛选过程。

Karl Friston 的自由能原理(free energy principle)把这个直觉形式化了。他的核心论点是:任何能够维持自身存在的系统,在数学上都必须在做某种形式的推断——最小化关于感觉输入的“惊异度”(surprise)。惊异度高,意味着世界和模型的预测差距大;意味着系统没能预测即将发生的事情;意味着危险。所以,存活即推断 -> [Friston et al., 2020, arXiv:2002.04501]。

自由能原理是什么?(前人工作:Friston, 2020)

自由能原理是神经科学家 Karl Friston 提出的一个理论框架,试图用一个统一的数学原理解释所有生命系统的行为。

核心思想非常直觉:一个活着的系统,必须不断对抗“被意外伏击”。如果世界发生了完全出乎意料的事情,系统就可能无法存活。因此,所有能长期存活的系统,在数学上等价于“不断最小化惊异度”的系统,也就是“不断让世界符合自己预期”的系统。

这里的“自由能”是从热力学借来的词,但在这个语境里它是一个信息论量,表示“模型预测与实际感觉之间差距的上界”。最小化自由能 ≈ 让预测更准确。

你不需要掌握公式,只需要记住:这个原理说的是,推断和预测不是大脑的奢侈功能,而是任何能维持自身的系统的数学必然。

就这样,预测从一种奢侈品,变成了存活的必需品。


停顿一下 ​

细菌在做时间差分,青蛙在做轨迹预测,黑猩猩在建意图模型——它们都在“预测”,但我们不会说细菌在“思考”。

那么,预测和思考之间,有没有一条清晰的边界?还是说,这只是复杂度的差异,量变引发质变?

还有一个更让人不舒服的问题:一个系统可以在完全不理解世界的情况下,做出完美的预测吗?

如果可以——那“理解”这件事,究竟有什么用?

先把这个问题放着。继续往下走。


四、但预测不等于理解 ​

我要在这里停一下,因为有一个陷阱很容易掉进去。

预测能力和理解不是同一件事。

让我给你举一个例子。

一个优秀的气象预报员,可以在看到特定云层的形态、气压分布、风向数据之后,预测明天会下雨。他的预测可能非常准确。但如果你问他“为什么这些云会导致降雨”,他需要用流体力学、热力学、水汽的相变动力学来回答。这是另一个层次的问题,比“明天会不会下雨”深得多。

或者更极端的例子:一个被训练好的神经网络,可以在大量历史数据上学习到“某种模式出现之后,某种结果会跟着出现”,然后非常准确地预测这个结果。但它理解了“为什么”吗?它知道背后的因果机制吗?这是一个我们到本书结束都不会完全回答的问题,但我们会越来越靠近它。

这个区别很重要,因为它告诉我们:预测的准确性不能代替理解的深度。

一个系统可以做到极其准确的预测,同时完全不理解它在预测什么。它在统计意义上捕获了模式,但没有建立关于世界的因果模型。当条件改变——当它遇到训练分布之外的东西——它的预测就会崩塌。而且崩塌的方式往往是不可预期的、奇怪的。

那么,什么是真正的“理解”?

这需要我们搭一把梯子。


五、从反射到推理:一个层级的故事 ​

我想用一个比喻来引入这把梯子。

想象你在学开车。

最开始,每一个动作都是有意识的:离合、换挡、方向盘、油门——你要同时想着这四件事,还要看着路。这是一个认知负荷极大的阶段。

几个月之后,你一边开车上班一边想着晚饭吃什么。换挡、刹车、转弯——这些动作已经变成自动的,从有意识的推理降落成了某种反射。

但如果一个小孩突然冲上马路,你的意识会在瞬间被拉回来,做一个非常不自动的决策:方向盘往哪边打?急刹车还是绕过去?这是发生在毫秒之间的高层推理。

这里有三个不同的处理层次在同时运行。它们不是互相替代的,而是共存的,在不同情境下被激活。

现在让我把这个比喻展开。

第一层:反射。输入触发输出,没有中间模型,没有关于世界的表征。膝跳反射:医生用小锤敲你的膝盖,你的腿就踢出去。你没有想“我的腿应该踢”,整个回路在脊髓层面就闭合了,大脑皮层甚至不需要参与。这里有输入和输出,但没有推理。

第二层:关联学习。系统在刺激之间建立统计关联。巴甫洛夫的狗:铃声响,唾液流。这里有学习——关联是通过经验建立起来的,不是硬编码的。但它仍然是关联,不是模型。狗不知道“铃声意味着食物要来”,它只是在执行一个被强化过的映射。如果食物换了地方,或者铃声和食物之间的间隔变了,这个映射就会混乱——但狗无法推断出“为什么”。

第三层:生成模型。这是一个根本性的转变。系统不再被动地等待输入然后反应,而是主动维护关于世界的内部表征,持续生成对即将到来的输入的预测。

神经科学家所说的预测性编码(predictive coding)描述的正是这个层次。大脑的基本工作方式,不是自下而上地处理感觉输入——而是自上而下地生成预测,然后只处理预测和实际感觉之间的误差。你走进一个黑暗的房间,你的大脑不是在空白状态下等待光子。它已经在预测这个房间里可能有什么,预测椅子在哪里,预测墙壁的质感。预测误差才是真正被大量处理的信息 -> [Sennesh et al., 2022, arXiv:2208.10601]。

预测性编码:大脑不是相机(前人工作:Rao & Ballard, 1999 等)

传统直觉认为大脑像一台相机:光进来,视觉皮层处理,你看到图像。预测性编码颠覆了这个图景。

这个框架认为:大脑的主要工作是自上而下地持续生成预测,然后只把“出错的那部分”(预测误差)向上传递,供高层更新模型。大部分时候,你“看到”的东西有相当一部分是你的大脑自己补上的。

证据之一:视觉错觉。即使你知道一张图是错觉,你依然无法停止被骗——因为你的高层模型已经锁定了一个预测,它比单次的感觉输入更顽固。

这个理论也解释了为什么大脑只需要约 20 瓦:大多数时候它只需要处理“出错”的那一小部分信号,而不是全量的原始感觉。

这个架构解释了很多现象:为什么你对预期之内的事情几乎没有感觉,却对意外高度警觉;为什么在嘈杂的房间里你仍然能听清别人的话(你的模型在帮助补全缺失的信息);为什么视觉错觉会持续存在,即使你知道它是错觉——因为你的高层模型已经锁定了一个预测,它比单次的感觉输入更难推翻。

第四层:因果模型。生成模型仍然可能只是在捕获统计相关,而不是因果机制。真正的因果模型能够回答三个层次的问题——Pearl 的因果阶梯:如果天上有乌云,下雨的概率是多少(观测)?如果我人为制造乌云,会下雨吗(干预)?如果那天没有乌云,昨天的雨还会下吗(反事实)?这三个问题需要三种完全不同的能力,纯粹的统计相关只能回答第一个。我们将在第六章深入这个区别。

第五层:元推理。对自己推理进行推理的能力。知道自己的模型在哪里可靠,在哪里不可靠。一个孩子做完数学题,觉得可能错了,重新算一遍——这个孩子是在监控自己的推理过程。一个科学家问“这个实验能排除其他假设吗?”——这个科学家是在推理自己的推理方法是否充分。

我们不知道今天的 AI 系统站在这把梯子的哪一级。这个问题将贯穿本书。


六、信息有代价,推理为它买单 ​

在继续之前,我想插一段物理学家的插曲。

1961 年,IBM 的物理学家 Rolf Landauer 发表了一篇论文,论证了一件当时听起来很奇怪的事:擦除一比特信息,必然向环境释放至少 kBTln⁡2 的热量。这里 kB 是玻尔兹曼常数,T 是环境温度。

这个结论叫做 Landauer 原理。它的含义是:信息不是免费的。处理信息,尤其是擦除信息,有不可避免的物理代价。信息和热力学之间有一条深层的联系 -> [Chattopadhyay et al., 2025, arXiv:2506.10876]。

Landauer 原理:删掉一个比特要花多少能量?(前人工作:Landauer, 1961)

Landauer 原理说的是:在物理上,擦除一比特信息,至少需要向环境释放 kBTln⁡2 焦耳的热量(在室温下约为 3×10−21 焦耳,非常小,但不为零)。

kB 是玻尔兹曼常数(约 1.38×10−23 J/K),T 是绝对温度(单位开尔文),ln⁡2≈0.693。具体数值不重要。重要的是:这个数不是零。

为什么这重要?因为它意味着信息处理有物理代价。推理不是无代价的抽象,而是一个真实的物理过程。这个原理后来被实验证实,也解决了困扰物理学家近百年的“麦克斯韦恶魔”悖论(见正文)。

这解决了一个困扰物理学家近百年的悖论:麦克斯韦恶魔。1867 年,麦克斯韦提出了一个思想实验。一个小恶魔坐在两个盒子之间的隔板上。它观察每个气体分子的速度,让快的分子通过到一边,把慢的留在另一边。慢慢地,一边变热,一边变冷——就好像你能不花能量就制造出温差。这违反了热力学第二定律。

Landauer 指出:要处理每个分子,恶魔必须先丢掉上一个分子的信息——而擦除信息需要释放热量。这部分热量正好补偿了恶魔想利用的温差。恶魔不是赢家。它只是在用一种隐蔽的方式付账。

为什么在这里讲这个故事?

因为它告诉我们:任何进行推理的系统,都为推理付出物理代价。每一次信息处理,每一次模型更新,每一次预测误差的计算——这些都是真实的物理事件,都有热力学代价。推理不是免费的。宇宙不允许免费的推理。

还有一个深远的推论:生物系统的推理架构,在进化压力下应该是极度节能的。大脑的预测性编码架构——只处理预测误差而不是原始输入——在信息论和热力学上都已经接近最优。你的大脑大约消耗 20 瓦,差不多一个昏暗灯泡的功率,但它所做的计算,任何现有的 AI 系统都无法以同等能耗匹敌。这不是偶然。这是四十亿年进化压力的结果。


七、推理需要一个起点 ​

再往前走一步。

贝叶斯推断是我们所拥有的、关于“如何根据证据更新信念”的最精确框架:

P(h∣e)=P(e∣h)⋅P(h)P(e)

你有一个关于世界的假设 h,你观察到了证据 e,然后更新你对 h 的信念,得到后验概率 P(h∣e)。

贝叶斯法则:怎么读这个式子?

这个公式说的是:在看到证据 e 之后,假设 h 为真的概率(后验概率),等于三个量的组合:

  • P(h):先验概率——在看到任何证据之前,你对这个假设的初始信念(比如“这枚硬币是公平的概率是 50%”)
  • P(e∣h):似然——如果假设 h 是真的,观测到证据 e 的概率(比如“如果硬币是公平的,连续出现 3 次正面的概率是 1/8”)
  • P(e):归一化常数——在所有可能的假设下观测到 e 的总概率,用来保证结果是一个合法的概率

直觉版本:新信念 = 旧信念 × 证据的支持 ÷ 归一化

核心思想:你不是从零开始推断。你从已有的信念出发,用新证据更新它们。先验越强,改变它所需的证据就越多。

但这个公式里有一个 P(h)——先验。它是你在看到证据之前对 h 持有的信念。贝叶斯更新从不从虚无开始。它总是从一个先验开始。

先验从哪里来?

在实践中,先验来自过去的经验,来自先前的推断,来自领域知识——对于生物系统来说,还来自进化铺设好的内置假设。但一路追溯下去,你总会碰到某个不加论证就被接受的初始信念。

这不是缺陷。这是推理本身的结构性特征:你必须从某个地方开始,而你开始的那个地方,无法被你自己的推理过程完全证明。

对于生物系统,进化解决了这个问题——至少部分解决:持有“关于世界的好先验”的个体存活下来,繁殖,把自己的神经系统结构传给后代。自然选择是一个关于先验适应度的元优化过程。

但请注意一个微妙之处:这个优化过程本身不是推理。自然选择是盲目的随机变异加上筛选压力。它不知道自己在做什么。它只是保留碰巧有效的东西。生物推理能力的基础,是由一个不会推理的过程优化出来的。

这是一件值得停下来想一想的事。

对于机器学习系统,训练数据扮演着类似的角色。模型从数据中蒸馏出统计规律,这些规律成为它推理的隐含先验。但训练数据不是中立的——它来自特定的分布,带有特定的假设,反映了特定的世界。当系统遇到训练分布之外的东西时,这些隐含先验会在哪里断裂?以什么方式断裂?

每一个推理系统都有一个或多个锚点,是它自己的推理过程无法完全触及的。 你可以更新你的先验。但更新的规则,建立在一个你没有更新过的更深层的元先验之上。你可以质疑你的假设。但你质疑的方式,建立在一套你从未质疑过的逻辑规则之上。这是一个有终点的递归——终点是某个被悬置判断的起始信念。

你的锚点的质量,决定了你的推理能走多远。

我们会在第十五章用更形式化的语言回到这里。现在,先记住这句话。


八、一个小小的停顿 ​

我们讲了很多。让我在这里停一下,把这一章的线索梳理清楚。

我们从热力学第二定律出发:宇宙朝着无序运行,活的生物逆流而上,通过向外界输出熵来维持自己的秩序。但维持静态秩序是不够的——外部世界是动态的、变化的,有时是敌对的。所以生物需要预测:它们必须在变化到来之前做出响应。

预测能力分层次:从最简单的时间差分,到关联学习,到生成模型,到因果推理,到元推理。每一层都比上一层更强大——也更昂贵。Landauer 原理告诉我们,信息处理有物理代价;推理不是免费的。

而所有的推理都需要一个起点:一个推理本身永远无法完全证明的先验锚点。对于生物,这个锚点来自进化。对于机器,来自训练数据。两者都不完美,都带有各自的盲点。

这三个限制——代价、层次、锚点——是理解推理的出发点。


九、生命的物理推理:熵减的代价与启示 ​

在结束本章之前,让我们回到起点——但走得更深一些。

薛定谔在《生命是什么》里提出的“负熵”概念,揭示了一个深刻的物理事实:生命没有违反热力学第二定律。生命是一种特殊的系统,它利用能量梯度实现局部有序。这种局部的熵减,是用环境中更大的熵增换来的——生命系统不断从外界摄取能量和物质(负熵),维持自身有序的结构,同时向环境倾倒更多的无序(废热、废物)。

耗散结构:远离平衡态的有序 ​

比利时物理学家普里高津(Ilya Prigogine)的耗散结构理论提供了数学框架:在远离热力学平衡态的地方,一个持续有能量和物质流过的开放系统,可以自发形成并维持有序结构。生命是耗散结构的终极体现。

这种物理机制对推理系统有重要的启示:

  1. 能量流与信息流的类比:生命需要能量流来维持物理秩序;推理系统需要信息流来维持“认知秩序”。没有持续的信息输入(感知、学习),推理系统就会遭受“认知衰退”——就像生命没有能量输入就会死亡。

  2. 局部有序的代价:生命的局部熵减,由环境的熵增买单;AI 的“理解”,由计算复杂度买单。两者表达的是同一条根本原则:秩序必须付出代价。

  3. 自组织与涌现:生命的起源是宇宙中能量流驱动的一种自组织现象——在熵的定律之下,有序结构通过能量输入在局部区域形成。类似地,AI 系统中的“理解”也可能是数据流中的一种自组织涌现现象。

从物理推理到认知推理 ​

这个视角让我们看到推理的物理基础:

  • 物理层:生命系统通过能量流对抗熵增
  • 信息层:认知系统通过信息流对抗“认知熵增”(混乱、无知)
  • 计算层:AI 系统通过计算流实现模式识别和预测

这三个层次共享同一个元模式:每一个都需要持续的外部输入(能量/信息/数据),每一个都以某种代价换取局部有序(环境熵增/计算复杂度),每一个在合适条件下都可能涌现出复杂行为。


思考题:推理的“能量”是什么? ​

如果生命需要物理能量来生存,推理需要什么“能量”才能持续运转?

可能的答案:信息多样性(避免过拟合)、计算资源(完成复杂推断)、时间(学习过程)、认知负荷(注意力分配)……这些都不是免费的。每一种都有自己的“热力学代价”。


从第二章开始,我们要追溯历史:人类第一次尝试把推理变成一种机械过程时,它是什么样子?那些早期的尝试在哪里成功,在哪里失败,又留下了什么?

推理需要表示。下一章,我们将看到人类如何用符号和规则构建第一代推理机器——以及它们为什么最终失败。


思想回响:从热力学到机器学习

读到这里的读者可能会问:热力学的熵和信息论的熵,到底有什么关系?

答案是:它们的数学形式几乎重合,但物理含义各自独立。

1948 年,香农创立信息论时,问约翰·冯·诺依曼该把信息的不确定性叫什么。冯·诺依曼说:“就叫熵吧。反正没几个人真正懂热力学,而你在争论中总是能赢。”

这个建议被采纳了。于是我们有了:

  • 热力学熵:S=−kB∑piln⁡pi——描述物理系统的无序程度
  • 信息熵:H(X)=−∑p(x)log2⁡p(x)——描述信息的不确定性
  • 交叉熵:H(p,q)=−∑p(x)log⁡q(x)——描述两个分布之间的差异

当你通过最小化交叉熵来训练神经网络时,你在做两件事:

  1. 度量差距:计算模型预测 q(x) 与真实世界 p(x) 之间的“分布距离”
  2. 对抗无序:用梯度下降把 q(x) 从“远离 p(x) 的混乱状态”推向“接近 p(x) 的有序状态”

这呼应了本章的核心主张:推理是对抗熵增的存活策略。在物理世界,生命通过新陈代谢对抗热力学熵增。在信息世界,智能系统通过学习对抗预测分布的熵增。

形式上的相似不是巧合。它揭示了:当不同领域面对同一个根本挑战——从无序到有序——它们会收敛到相似的数学结构上。

悬而未决 ​

  • 大脑的预测性编码架构,和大型语言模型的推理结构,在最根本的层面上有什么相似和不同?

  • Landauer 原理在实践中对 AI 系统意味着什么——我们是否正在逼近推理的热力学极限?

  • 进化为生物挑选了“好的先验”,但进化本身不会推理——这意味着生物认知的基础,是被一个盲目过程优化出来的。这个基础有多可靠?

  • 生命作为开放系统:如果生命通过能量流实现局部熵减,AI 系统通过什么样的“流”实现“认知秩序”?信息流、数据流,还是计算流?这些“流”的热力学代价是什么?

  • 耗散结构与 AI:普里高津的耗散结构理论描述了远离平衡态的系统如何维持秩序。AI 训练(梯度下降、参数更新)能否被看作一种“认知耗散结构”?一个训练完成、稳定下来的模型,是否处于“认知平衡态”?


动手试试:构建一个最小的贝叶斯预测器 ​

这一章讲了三件事:推理有代价,推理有层次,推理需要锚点。现在轮到你把这三件事变成能跑起来的东西。

你不需要写一个大系统。用最少的代码,亲手感受这三个限制在哪里咬人。


第一步:决定你要预测什么 ​

选一个你能拿到数据序列的领域——越简单越好。

几个建议:

  • 抛一枚你不确定是否公平的硬币,记录正面/反面序列
  • 观察某个网站每小时的访客数,把它编码成“高流量/低流量”
  • 记录自己一天中的心情(好/一般/差),连续记录几天

你的第一个问题: 这个序列的“先验”是什么?在看到任何数据之前,你对这个序列的分布有什么假设?把它写下来——哪怕只是“我认为正面和反面各占 50%”这样简单的一句话。


第二步:实现贝叶斯更新 ​

不用外部库。用第七节给出的公式:

P(h∣e)=P(e∣h)⋅P(h)P(e)

你需要实现的逻辑是:

python
import numpy as np
import matplotlib.pyplot as plt
# --- Step 1: define the hypothesis space ---
# The coin's head probability theta takes the following discrete values
hypotheses = np.arange(0.1, 1.0, 0.1)   # [0.1, 0.2, ..., 0.9]
# --- Step 2: assign prior probabilities ---
# Uniform prior: every theta is equally likely at the start
prior = np.ones(len(hypotheses)) / len(hypotheses)
# --- Step 3: Bayesian update function ---
def bayesian_update(prior, hypotheses, observation):
    """
    Update the posterior distribution after a single observation.
    observation: 1 = Head, 0 = Tail
    """
    # a. likelihood of this observation under each hypothesis, P(e | h_i)
    if observation == 1:
        likelihoods = hypotheses           # Head: likelihood = theta
    else:
        likelihoods = 1.0 - hypotheses    # Tail: likelihood = 1 - theta
    # b. unnormalized posterior: P(e | h_i) × P(h_i)
    unnormalized = likelihoods * prior
    # c. normalize: divide by the sum so probabilities add to 1
    posterior = unnormalized / unnormalized.sum()
    return posterior
# --- Step 4: simulate the observation sequence and update step by step ---
# Example: a manually entered sequence (1 = Head, 0 = Tail)
observations = [1, 1, 0, 1, 1, 1, 0, 1, 1, 1, 0, 1, 1, 0, 1,
                1, 1, 0, 1, 1]
top_hypothesis_history = []   # index of the highest-probability hypothesis
top_posterior_history  = []   # value of the highest posterior probability
current_prior = prior.copy()
for i, obs in enumerate(observations):
    current_prior = bayesian_update(current_prior, hypotheses, obs)
    # record the best hypothesis so far
    best_idx = np.argmax(current_prior)
    top_hypothesis_history.append(hypotheses[best_idx])
    top_posterior_history.append(current_prior[best_idx])
    print(f"obs {i+1:2d}: {'Head' if obs==1 else 'Tail'} | "
          f"best theta = {hypotheses[best_idx]:.1f} | "
          f"posterior = {current_prior[best_idx]:.3f}")
# --- Plot: posterior of the best hypothesis vs. observation number ---
plt.figure(figsize=(10, 4))
plt.plot(range(1, len(observations) + 1), top_posterior_history,
         marker='o', linewidth=2)
plt.xlabel("observation number")
plt.ylabel("posterior of the best hypothesis")
plt.title("Bayesian update: posterior converging with observations")
plt.ylim(0, 1)
plt.grid(True, alpha=0.4)
plt.tight_layout()
plt.show()

运行之后,看这张折线图:横轴是观测序号,纵轴是当前“最可能的假设”的后验概率。

你的第二个问题: 需要多少次观测,后验才开始稳定下来?这个数字和你选择的先验有什么关系?


第三步:感受预测的层级 ​

用你实现的贝叶斯更新,在三个不同层次上做预测:

第一层(反射层次): 下一次观测最可能是什么?直接输出当前最高概率假设的预测。

第二层(生成模型层次): 不要只预测下一次——预测接下来 10 次观测的期望分布。你的贝叶斯机器里已经包含了一个关于“是什么参数控制这个序列”的模型——用它生成 10 步的期望。

第三层(元推理层次): 你对自己的预测有多自信?你的后验熵是多少?后验越均匀(熵越高),你对假设空间就越不确定——你的预测就应该越保守。

python
import numpy as np
def posterior_entropy(posterior):
    """
    Shannon entropy of the posterior distribution.
    Higher entropy = more uncertainty over hypotheses; lower = sharper belief.
    posterior: numpy array of posterior probabilities over hypotheses
    """
    # drop zero-probability entries (log(0) is undefined)
    p = posterior[posterior > 0]
    # Shannon entropy: H = -sum P(h_i) * log(P(h_i))
    entropy = -np.sum(p * np.log(p))
    return entropy
# Example: suppose the current posterior is
example_posterior = np.array([0.05, 0.1, 0.2, 0.4, 0.15, 0.05, 0.03, 0.01, 0.01])
h = posterior_entropy(example_posterior)
print(f"posterior entropy = {h:.4f} (closer to 0 = more certain; max ~ {np.log(len(example_posterior)):.4f})")

你的第三个问题: 在什么情况下,第三层的元信息(“我不确定”)应该覆盖第一层的直接预测?你能找到一个具体的例子吗?


第四步:找到你的锚点 ​

现在回到第七节说过的话:“每一个推理系统都有一个锚点,是它自己的推理过程无法完全触及的。”

对你的贝叶斯机器来说,锚点就是先验。

做一个实验:用三个不同的先验——均匀先验、强烈偏向某一个假设的先验、完全错误的先验——跑同一个观测序列。

记录:

  • 在三个先验下,后验需要多少次观测才能达到“几乎相同”的结果?
  • 如果数据有限(比如只有 20 次观测),三个先验给出的最终信念相差多远?

你的第四个问题(也是这个练习中最难的问题): 如果你的先验完全错误,贝叶斯更新能修正它吗?需要多少数据?对于一个在错误训练数据上预训练的 AI 系统,这意味着什么?


检查你的成果 ​

你不需要完美。你需要:

  • 一个真正能跑通的“先验 -> 观测 -> 后验更新”完整循环

  • 能清楚地说出你的先验是什么,以及你为什么这样设置

  • 一个让你的系统崩溃的案例——一个你的假设空间没有覆盖的情况

第三点最重要。专家系统失败,是因为它们撞上了规则库的边界。你的贝叶斯机器会在哪里撞上自己的边界?


延伸阅读 ​

  • [Friston et al., 2020] ——自由能原理:Markov 毯、贝叶斯力学与近似推断,arXiv:2002.04501

  • [Sennesh et al., 2022] ——主动推断的时间平均形式化,连接最优控制与神经生理学,arXiv:2208.10601

  • [Chattopadhyay et al., 2025] ——Landauer 原理与计算热力学综述,arXiv:2506.10876

  • [Tlusty, 2010] ——生物分子码的率失真理论:生命作为信息信道,arXiv:1007.4471

  • Schrödinger, E. (1944). What is Life?——生命与负熵,本章思想的哲学起点

  • Pearl, J. & Mackenzie, D. (2018). The Book of Why——因果阶梯的通俗解读,第六章之前的必读材料