第1章:对抗熵增——推理作为存活策略
一个系统如果不能预测下一刻,它就会被下一刻摧毁。
一、宇宙有一个方向
我想先给你讲一个关于冰块的故事。
你把一块冰放进一杯温水里。你等一会儿。冰融化了,水变凉了。这件事你见过一千次,你觉得它无聊,你觉得它理所当然。但如果你真的坐下来想一想,这件事里藏着一个让物理学家困扰了将近两百年的谜题。
你见过这个过程反过来吗?一杯温水,突然之间,某个角落自发地结成了冰,而其余的水变得更热?你没见过。不是因为这违反了任何力学定律——牛顿的方程是时间对称的,正着跑和倒着跑都成立。而是因为热力学第二定律给宇宙规定了一个方向。
这个方向的名字叫熵增。
熵,粗略地讲,是一个系统的“混乱程度”,或者更精确地说,是一个宏观状态对应的微观状态数的对数。冰融化进温水,是从一个有序的、可能性极少的状态,走向一个无序的、可能性极多的状态。这个过程自发发生,因为后者在统计上压倒性地更可能。反过来的过程不是不可能,只是极度不可能——在宇宙年龄的时间尺度上,你可能都等不到它发生一次。
热力学第二定律与熵:不懂物理也能读懂
熵(entropy)是物理学里衡量“无序程度”的量。你不需要记住公式,只需要记住一个直觉:东西自然而然总是从有序走向无序——杯子会碎,但碎片不会自己拼回去;房间会乱,但不会自己整理好。这种单向性,就是热力学第二定律的本质。
“熵增”就是“无序程度增加”的意思。整个宇宙的总熵在不断增加,这是一个在实验上被无数次验证的物理事实。
为什么生物体能局部维持有序?因为它们不是孤立系统——它们靠消耗外界能量(食物、阳光)来维持内部秩序,同时向外界排放更多的热(废热)。总账算下来,宇宙整体的熵还是在增加。
所以宇宙有一个方向:向着更混乱,向着更无序,向着更高的熵。
现在,在这个朝着混乱奔去的宇宙里,有一些非常奇怪的东西。
它们叫做活的生物。
二、逆流而上的生物
一个活的细胞是热力学意义上的奇迹。
不是因为它违反了第二定律——它没有。一个细胞对抗局部的熵增,是通过向外界排出更多的熵来实现的。它消耗有序的化学能(葡萄糖、ATP),把它降解为无序的废热,向外界排放。从整个系统(细胞+环境)来看,总熵依然在增加。但在细胞内部,维持着惊人的有序性:精确折叠的蛋白质,精确调控的离子梯度,精确转录的遗传信息。
薛定谔在 1944 年的小册子《生命是什么》里,用了一个漂亮的说法:生物体靠吃“负熵”为生。它从环境里摄取低熵的东西,排出高熵的废物,用这个差值来维持自身的秩序。
但你注意到了吗——维持内部秩序,只是活着的必要条件,不是充分条件。
一块晶体也是高度有序的。食盐的晶格,雪花的六重对称,石英的规则排列。它们在合适的条件下可以无限期地维持自己的结构,不需要消耗能量,不需要排出废热。然而我们不会说晶体在“活着”。
原因在于:晶体的秩序是静态的。它不需要响应外界,不需要对变化做出反应,不需要预测未来。它只是被动地存在着。只要环境不超过它的物理极限(不融化,不破碎),它就能继续存在。
生物面对的问题完全不同。外界是动态的,是变化的,有时候是敌对的。捕食者会出现,温度会骤变,食物源会消失,竞争者会到来。一个活的系统不仅要维持内部秩序,还要对外部世界的变化做出恰当的响应——而且要在变化造成破坏之前就做出响应。
这需要预测。
三、预测不是奢侈品,是必需品
让我换一个角度来说这件事。
想象一个非常简单的生物——一个单细胞细菌,在一个有食物梯度的环境里游动。食物浓度高的地方,它应该待着;食物浓度低的地方,它应该离开。但细菌很小,它无法同时感知两个地方的浓度差——它只能感知自己所在位置的浓度。
它怎么知道自己是在向浓度高的方向走,还是在向浓度低的方向走?
答案是:它记住了一秒钟前的浓度,和现在的浓度比较。如果现在比刚才高,就继续前进;如果现在比刚才低,就改变方向。
这是一种非常原始的预测——预测“如果继续朝这个方向走,浓度会继续升高”。它甚至配不上“预测”这个名字,只是一个简单的时间差分。但它已经足够让细菌在食物梯度里导航了。
现在把时间尺度拉长,把复杂度提高。
一只青蛙在等待蚊子。它不是等到蚊子飞进嘴里才反应——它的视觉系统会提前追踪轨迹,它的舌头已经在蚊子到达之前弹出。这里有预测:对蚊子路径的预测,对时间差的估计,对何时出击的校准。
一只黑猩猩在看另一只黑猩猩的眼睛,试图判断它是不是要发动攻击。这里有更复杂的预测:对另一个体意图的推断,对行为模式的识别,甚至对“对方在想什么”的某种粗糙模型。
一个生物体的预测越精细,它的认知就越复杂。这不是偶然的。能够更好地预测世界的生物,存活得更好,繁殖得更多,把自己的预测机制传递给后代。 进化在某种意义上是一个关于预测能力的筛选过程。
Karl Friston 的自由能原理(free energy principle)把这个直觉形式化了。他的核心论点是:任何能够维持自身存在的系统,在数学上都必须在做某种形式的推断——最小化关于感觉输入的“惊异度”(surprise)。惊异度高,意味着世界和模型的预测差距大;意味着系统没能预测即将发生的事情;意味着危险。所以,存活即推断 -> [Friston et al., 2020, arXiv:2002.04501]。
自由能原理是什么?(前人工作:Friston, 2020)
自由能原理是神经科学家 Karl Friston 提出的一个理论框架,试图用一个统一的数学原理解释所有生命系统的行为。
核心思想非常直觉:一个活着的系统,必须不断对抗“被意外伏击”。如果世界发生了完全出乎意料的事情,系统就可能无法存活。因此,所有能长期存活的系统,在数学上等价于“不断最小化惊异度”的系统,也就是“不断让世界符合自己预期”的系统。
这里的“自由能”是从热力学借来的词,但在这个语境里它是一个信息论量,表示“模型预测与实际感觉之间差距的上界”。最小化自由能 ≈ 让预测更准确。
你不需要掌握公式,只需要记住:这个原理说的是,推断和预测不是大脑的奢侈功能,而是任何能维持自身的系统的数学必然。
就这样,预测从一种奢侈品,变成了存活的必需品。
停顿一下
细菌在做时间差分,青蛙在做轨迹预测,黑猩猩在建意图模型——它们都在“预测”,但我们不会说细菌在“思考”。
那么,预测和思考之间,有没有一条清晰的边界?还是说,这只是复杂度的差异,量变引发质变?
还有一个更让人不舒服的问题:一个系统可以在完全不理解世界的情况下,做出完美的预测吗?
如果可以——那“理解”这件事,究竟有什么用?
先把这个问题放着。继续往下走。
四、但预测不等于理解
我要在这里停一下,因为有一个陷阱很容易掉进去。
预测能力和理解不是同一件事。
让我给你举一个例子。
一个优秀的气象预报员,可以在看到特定云层的形态、气压分布、风向数据之后,预测明天会下雨。他的预测可能非常准确。但如果你问他“为什么这些云会导致降雨”,他需要用流体力学、热力学、水汽的相变动力学来回答。这是另一个层次的问题,比“明天会不会下雨”深得多。
或者更极端的例子:一个被训练好的神经网络,可以在大量历史数据上学习到“某种模式出现之后,某种结果会跟着出现”,然后非常准确地预测这个结果。但它理解了“为什么”吗?它知道背后的因果机制吗?这是一个我们到本书结束都不会完全回答的问题,但我们会越来越靠近它。
这个区别很重要,因为它告诉我们:预测的准确性不能代替理解的深度。
一个系统可以做到极其准确的预测,同时完全不理解它在预测什么。它在统计意义上捕获了模式,但没有建立关于世界的因果模型。当条件改变——当它遇到训练分布之外的东西——它的预测就会崩塌。而且崩塌的方式往往是不可预期的、奇怪的。
那么,什么是真正的“理解”?
这需要我们搭一把梯子。
五、从反射到推理:一个层级的故事
我想用一个比喻来引入这把梯子。
想象你在学开车。
最开始,每一个动作都是有意识的:离合、换挡、方向盘、油门——你要同时想着这四件事,还要看着路。这是一个认知负荷极大的阶段。
几个月之后,你一边开车上班一边想着晚饭吃什么。换挡、刹车、转弯——这些动作已经变成自动的,从有意识的推理降落成了某种反射。
但如果一个小孩突然冲上马路,你的意识会在瞬间被拉回来,做一个非常不自动的决策:方向盘往哪边打?急刹车还是绕过去?这是发生在毫秒之间的高层推理。
这里有三个不同的处理层次在同时运行。它们不是互相替代的,而是共存的,在不同情境下被激活。
现在让我把这个比喻展开。
第一层:反射。输入触发输出,没有中间模型,没有关于世界的表征。膝跳反射:医生用小锤敲你的膝盖,你的腿就踢出去。你没有想“我的腿应该踢”,整个回路在脊髓层面就闭合了,大脑皮层甚至不需要参与。这里有输入和输出,但没有推理。
第二层:关联学习。系统在刺激之间建立统计关联。巴甫洛夫的狗:铃声响,唾液流。这里有学习——关联是通过经验建立起来的,不是硬编码的。但它仍然是关联,不是模型。狗不知道“铃声意味着食物要来”,它只是在执行一个被强化过的映射。如果食物换了地方,或者铃声和食物之间的间隔变了,这个映射就会混乱——但狗无法推断出“为什么”。
第三层:生成模型。这是一个根本性的转变。系统不再被动地等待输入然后反应,而是主动维护关于世界的内部表征,持续生成对即将到来的输入的预测。
神经科学家所说的预测性编码(predictive coding)描述的正是这个层次。大脑的基本工作方式,不是自下而上地处理感觉输入——而是自上而下地生成预测,然后只处理预测和实际感觉之间的误差。你走进一个黑暗的房间,你的大脑不是在空白状态下等待光子。它已经在预测这个房间里可能有什么,预测椅子在哪里,预测墙壁的质感。预测误差才是真正被大量处理的信息 -> [Sennesh et al., 2022, arXiv:2208.10601]。
预测性编码:大脑不是相机(前人工作:Rao & Ballard, 1999 等)
传统直觉认为大脑像一台相机:光进来,视觉皮层处理,你看到图像。预测性编码颠覆了这个图景。
这个框架认为:大脑的主要工作是自上而下地持续生成预测,然后只把“出错的那部分”(预测误差)向上传递,供高层更新模型。大部分时候,你“看到”的东西有相当一部分是你的大脑自己补上的。
证据之一:视觉错觉。即使你知道一张图是错觉,你依然无法停止被骗——因为你的高层模型已经锁定了一个预测,它比单次的感觉输入更顽固。
这个理论也解释了为什么大脑只需要约 20 瓦:大多数时候它只需要处理“出错”的那一小部分信号,而不是全量的原始感觉。
这个架构解释了很多现象:为什么你对预期之内的事情几乎没有感觉,却对意外高度警觉;为什么在嘈杂的房间里你仍然能听清别人的话(你的模型在帮助补全缺失的信息);为什么视觉错觉会持续存在,即使你知道它是错觉——因为你的高层模型已经锁定了一个预测,它比单次的感觉输入更难推翻。
第四层:因果模型。生成模型仍然可能只是在捕获统计相关,而不是因果机制。真正的因果模型能够回答三个层次的问题——Pearl 的因果阶梯:如果天上有乌云,下雨的概率是多少(观测)?如果我人为制造乌云,会下雨吗(干预)?如果那天没有乌云,昨天的雨还会下吗(反事实)?这三个问题需要三种完全不同的能力,纯粹的统计相关只能回答第一个。我们将在第六章深入这个区别。
第五层:元推理。对自己推理进行推理的能力。知道自己的模型在哪里可靠,在哪里不可靠。一个孩子做完数学题,觉得可能错了,重新算一遍——这个孩子是在监控自己的推理过程。一个科学家问“这个实验能排除其他假设吗?”——这个科学家是在推理自己的推理方法是否充分。
我们不知道今天的 AI 系统站在这把梯子的哪一级。这个问题将贯穿本书。
六、信息有代价,推理为它买单
在继续之前,我想插一段物理学家的插曲。
1961 年,IBM 的物理学家 Rolf Landauer 发表了一篇论文,论证了一件当时听起来很奇怪的事:擦除一比特信息,必然向环境释放至少
这个结论叫做 Landauer 原理。它的含义是:信息不是免费的。处理信息,尤其是擦除信息,有不可避免的物理代价。信息和热力学之间有一条深层的联系 -> [Chattopadhyay et al., 2025, arXiv:2506.10876]。
Landauer 原理:删掉一个比特要花多少能量?(前人工作:Landauer, 1961)
Landauer 原理说的是:在物理上,擦除一比特信息,至少需要向环境释放
为什么这重要?因为它意味着信息处理有物理代价。推理不是无代价的抽象,而是一个真实的物理过程。这个原理后来被实验证实,也解决了困扰物理学家近百年的“麦克斯韦恶魔”悖论(见正文)。
这解决了一个困扰物理学家近百年的悖论:麦克斯韦恶魔。1867 年,麦克斯韦提出了一个思想实验。一个小恶魔坐在两个盒子之间的隔板上。它观察每个气体分子的速度,让快的分子通过到一边,把慢的留在另一边。慢慢地,一边变热,一边变冷——就好像你能不花能量就制造出温差。这违反了热力学第二定律。
Landauer 指出:要处理每个分子,恶魔必须先丢掉上一个分子的信息——而擦除信息需要释放热量。这部分热量正好补偿了恶魔想利用的温差。恶魔不是赢家。它只是在用一种隐蔽的方式付账。
为什么在这里讲这个故事?
因为它告诉我们:任何进行推理的系统,都为推理付出物理代价。每一次信息处理,每一次模型更新,每一次预测误差的计算——这些都是真实的物理事件,都有热力学代价。推理不是免费的。宇宙不允许免费的推理。
还有一个深远的推论:生物系统的推理架构,在进化压力下应该是极度节能的。大脑的预测性编码架构——只处理预测误差而不是原始输入——在信息论和热力学上都已经接近最优。你的大脑大约消耗 20 瓦,差不多一个昏暗灯泡的功率,但它所做的计算,任何现有的 AI 系统都无法以同等能耗匹敌。这不是偶然。这是四十亿年进化压力的结果。
七、推理需要一个起点
再往前走一步。
贝叶斯推断是我们所拥有的、关于“如何根据证据更新信念”的最精确框架:
你有一个关于世界的假设
贝叶斯法则:怎么读这个式子?
这个公式说的是:在看到证据
:先验概率——在看到任何证据之前,你对这个假设的初始信念(比如“这枚硬币是公平的概率是 50%”) :似然——如果假设 是真的,观测到证据 的概率(比如“如果硬币是公平的,连续出现 3 次正面的概率是 1/8”) :归一化常数——在所有可能的假设下观测到 的总概率,用来保证结果是一个合法的概率
直觉版本:新信念 = 旧信念 × 证据的支持 ÷ 归一化
核心思想:你不是从零开始推断。你从已有的信念出发,用新证据更新它们。先验越强,改变它所需的证据就越多。
但这个公式里有一个
先验从哪里来?
在实践中,先验来自过去的经验,来自先前的推断,来自领域知识——对于生物系统来说,还来自进化铺设好的内置假设。但一路追溯下去,你总会碰到某个不加论证就被接受的初始信念。
这不是缺陷。这是推理本身的结构性特征:你必须从某个地方开始,而你开始的那个地方,无法被你自己的推理过程完全证明。
对于生物系统,进化解决了这个问题——至少部分解决:持有“关于世界的好先验”的个体存活下来,繁殖,把自己的神经系统结构传给后代。自然选择是一个关于先验适应度的元优化过程。
但请注意一个微妙之处:这个优化过程本身不是推理。自然选择是盲目的随机变异加上筛选压力。它不知道自己在做什么。它只是保留碰巧有效的东西。生物推理能力的基础,是由一个不会推理的过程优化出来的。
这是一件值得停下来想一想的事。
对于机器学习系统,训练数据扮演着类似的角色。模型从数据中蒸馏出统计规律,这些规律成为它推理的隐含先验。但训练数据不是中立的——它来自特定的分布,带有特定的假设,反映了特定的世界。当系统遇到训练分布之外的东西时,这些隐含先验会在哪里断裂?以什么方式断裂?
每一个推理系统都有一个或多个锚点,是它自己的推理过程无法完全触及的。 你可以更新你的先验。但更新的规则,建立在一个你没有更新过的更深层的元先验之上。你可以质疑你的假设。但你质疑的方式,建立在一套你从未质疑过的逻辑规则之上。这是一个有终点的递归——终点是某个被悬置判断的起始信念。
你的锚点的质量,决定了你的推理能走多远。
我们会在第十五章用更形式化的语言回到这里。现在,先记住这句话。
八、一个小小的停顿
我们讲了很多。让我在这里停一下,把这一章的线索梳理清楚。
我们从热力学第二定律出发:宇宙朝着无序运行,活的生物逆流而上,通过向外界输出熵来维持自己的秩序。但维持静态秩序是不够的——外部世界是动态的、变化的,有时是敌对的。所以生物需要预测:它们必须在变化到来之前做出响应。
预测能力分层次:从最简单的时间差分,到关联学习,到生成模型,到因果推理,到元推理。每一层都比上一层更强大——也更昂贵。Landauer 原理告诉我们,信息处理有物理代价;推理不是免费的。
而所有的推理都需要一个起点:一个推理本身永远无法完全证明的先验锚点。对于生物,这个锚点来自进化。对于机器,来自训练数据。两者都不完美,都带有各自的盲点。
这三个限制——代价、层次、锚点——是理解推理的出发点。
九、生命的物理推理:熵减的代价与启示
在结束本章之前,让我们回到起点——但走得更深一些。
薛定谔在《生命是什么》里提出的“负熵”概念,揭示了一个深刻的物理事实:生命没有违反热力学第二定律。生命是一种特殊的系统,它利用能量梯度实现局部有序。这种局部的熵减,是用环境中更大的熵增换来的——生命系统不断从外界摄取能量和物质(负熵),维持自身有序的结构,同时向环境倾倒更多的无序(废热、废物)。
耗散结构:远离平衡态的有序
比利时物理学家普里高津(Ilya Prigogine)的耗散结构理论提供了数学框架:在远离热力学平衡态的地方,一个持续有能量和物质流过的开放系统,可以自发形成并维持有序结构。生命是耗散结构的终极体现。
这种物理机制对推理系统有重要的启示:
能量流与信息流的类比:生命需要能量流来维持物理秩序;推理系统需要信息流来维持“认知秩序”。没有持续的信息输入(感知、学习),推理系统就会遭受“认知衰退”——就像生命没有能量输入就会死亡。
局部有序的代价:生命的局部熵减,由环境的熵增买单;AI 的“理解”,由计算复杂度买单。两者表达的是同一条根本原则:秩序必须付出代价。
自组织与涌现:生命的起源是宇宙中能量流驱动的一种自组织现象——在熵的定律之下,有序结构通过能量输入在局部区域形成。类似地,AI 系统中的“理解”也可能是数据流中的一种自组织涌现现象。
从物理推理到认知推理
这个视角让我们看到推理的物理基础:
- 物理层:生命系统通过能量流对抗熵增
- 信息层:认知系统通过信息流对抗“认知熵增”(混乱、无知)
- 计算层:AI 系统通过计算流实现模式识别和预测
这三个层次共享同一个元模式:每一个都需要持续的外部输入(能量/信息/数据),每一个都以某种代价换取局部有序(环境熵增/计算复杂度),每一个在合适条件下都可能涌现出复杂行为。
思考题:推理的“能量”是什么?
如果生命需要物理能量来生存,推理需要什么“能量”才能持续运转?
可能的答案:信息多样性(避免过拟合)、计算资源(完成复杂推断)、时间(学习过程)、认知负荷(注意力分配)……这些都不是免费的。每一种都有自己的“热力学代价”。
从第二章开始,我们要追溯历史:人类第一次尝试把推理变成一种机械过程时,它是什么样子?那些早期的尝试在哪里成功,在哪里失败,又留下了什么?
推理需要表示。下一章,我们将看到人类如何用符号和规则构建第一代推理机器——以及它们为什么最终失败。
思想回响:从热力学到机器学习
读到这里的读者可能会问:热力学的熵和信息论的熵,到底有什么关系?
答案是:它们的数学形式几乎重合,但物理含义各自独立。
1948 年,香农创立信息论时,问约翰·冯·诺依曼该把信息的不确定性叫什么。冯·诺依曼说:“就叫熵吧。反正没几个人真正懂热力学,而你在争论中总是能赢。”
这个建议被采纳了。于是我们有了:
- 热力学熵:
——描述物理系统的无序程度 - 信息熵:
——描述信息的不确定性 - 交叉熵:
——描述两个分布之间的差异
当你通过最小化交叉熵来训练神经网络时,你在做两件事:
- 度量差距:计算模型预测
与真实世界 之间的“分布距离” - 对抗无序:用梯度下降把
从“远离 的混乱状态”推向“接近 的有序状态”
这呼应了本章的核心主张:推理是对抗熵增的存活策略。在物理世界,生命通过新陈代谢对抗热力学熵增。在信息世界,智能系统通过学习对抗预测分布的熵增。
形式上的相似不是巧合。它揭示了:当不同领域面对同一个根本挑战——从无序到有序——它们会收敛到相似的数学结构上。
悬而未决
大脑的预测性编码架构,和大型语言模型的推理结构,在最根本的层面上有什么相似和不同?
Landauer 原理在实践中对 AI 系统意味着什么——我们是否正在逼近推理的热力学极限?
进化为生物挑选了“好的先验”,但进化本身不会推理——这意味着生物认知的基础,是被一个盲目过程优化出来的。这个基础有多可靠?
生命作为开放系统:如果生命通过能量流实现局部熵减,AI 系统通过什么样的“流”实现“认知秩序”?信息流、数据流,还是计算流?这些“流”的热力学代价是什么?
耗散结构与 AI:普里高津的耗散结构理论描述了远离平衡态的系统如何维持秩序。AI 训练(梯度下降、参数更新)能否被看作一种“认知耗散结构”?一个训练完成、稳定下来的模型,是否处于“认知平衡态”?
动手试试:构建一个最小的贝叶斯预测器
这一章讲了三件事:推理有代价,推理有层次,推理需要锚点。现在轮到你把这三件事变成能跑起来的东西。
你不需要写一个大系统。用最少的代码,亲手感受这三个限制在哪里咬人。
第一步:决定你要预测什么
选一个你能拿到数据序列的领域——越简单越好。
几个建议:
- 抛一枚你不确定是否公平的硬币,记录正面/反面序列
- 观察某个网站每小时的访客数,把它编码成“高流量/低流量”
- 记录自己一天中的心情(好/一般/差),连续记录几天
你的第一个问题: 这个序列的“先验”是什么?在看到任何数据之前,你对这个序列的分布有什么假设?把它写下来——哪怕只是“我认为正面和反面各占 50%”这样简单的一句话。
第二步:实现贝叶斯更新
不用外部库。用第七节给出的公式:
你需要实现的逻辑是:
import numpy as np
import matplotlib.pyplot as plt
# --- Step 1: define the hypothesis space ---
# The coin's head probability theta takes the following discrete values
hypotheses = np.arange(0.1, 1.0, 0.1) # [0.1, 0.2, ..., 0.9]
# --- Step 2: assign prior probabilities ---
# Uniform prior: every theta is equally likely at the start
prior = np.ones(len(hypotheses)) / len(hypotheses)
# --- Step 3: Bayesian update function ---
def bayesian_update(prior, hypotheses, observation):
"""
Update the posterior distribution after a single observation.
observation: 1 = Head, 0 = Tail
"""
# a. likelihood of this observation under each hypothesis, P(e | h_i)
if observation == 1:
likelihoods = hypotheses # Head: likelihood = theta
else:
likelihoods = 1.0 - hypotheses # Tail: likelihood = 1 - theta
# b. unnormalized posterior: P(e | h_i) × P(h_i)
unnormalized = likelihoods * prior
# c. normalize: divide by the sum so probabilities add to 1
posterior = unnormalized / unnormalized.sum()
return posterior
# --- Step 4: simulate the observation sequence and update step by step ---
# Example: a manually entered sequence (1 = Head, 0 = Tail)
observations = [1, 1, 0, 1, 1, 1, 0, 1, 1, 1, 0, 1, 1, 0, 1,
1, 1, 0, 1, 1]
top_hypothesis_history = [] # index of the highest-probability hypothesis
top_posterior_history = [] # value of the highest posterior probability
current_prior = prior.copy()
for i, obs in enumerate(observations):
current_prior = bayesian_update(current_prior, hypotheses, obs)
# record the best hypothesis so far
best_idx = np.argmax(current_prior)
top_hypothesis_history.append(hypotheses[best_idx])
top_posterior_history.append(current_prior[best_idx])
print(f"obs {i+1:2d}: {'Head' if obs==1 else 'Tail'} | "
f"best theta = {hypotheses[best_idx]:.1f} | "
f"posterior = {current_prior[best_idx]:.3f}")
# --- Plot: posterior of the best hypothesis vs. observation number ---
plt.figure(figsize=(10, 4))
plt.plot(range(1, len(observations) + 1), top_posterior_history,
marker='o', linewidth=2)
plt.xlabel("observation number")
plt.ylabel("posterior of the best hypothesis")
plt.title("Bayesian update: posterior converging with observations")
plt.ylim(0, 1)
plt.grid(True, alpha=0.4)
plt.tight_layout()
plt.show()运行之后,看这张折线图:横轴是观测序号,纵轴是当前“最可能的假设”的后验概率。
你的第二个问题: 需要多少次观测,后验才开始稳定下来?这个数字和你选择的先验有什么关系?
第三步:感受预测的层级
用你实现的贝叶斯更新,在三个不同层次上做预测:
第一层(反射层次): 下一次观测最可能是什么?直接输出当前最高概率假设的预测。
第二层(生成模型层次): 不要只预测下一次——预测接下来 10 次观测的期望分布。你的贝叶斯机器里已经包含了一个关于“是什么参数控制这个序列”的模型——用它生成 10 步的期望。
第三层(元推理层次): 你对自己的预测有多自信?你的后验熵是多少?后验越均匀(熵越高),你对假设空间就越不确定——你的预测就应该越保守。
import numpy as np
def posterior_entropy(posterior):
"""
Shannon entropy of the posterior distribution.
Higher entropy = more uncertainty over hypotheses; lower = sharper belief.
posterior: numpy array of posterior probabilities over hypotheses
"""
# drop zero-probability entries (log(0) is undefined)
p = posterior[posterior > 0]
# Shannon entropy: H = -sum P(h_i) * log(P(h_i))
entropy = -np.sum(p * np.log(p))
return entropy
# Example: suppose the current posterior is
example_posterior = np.array([0.05, 0.1, 0.2, 0.4, 0.15, 0.05, 0.03, 0.01, 0.01])
h = posterior_entropy(example_posterior)
print(f"posterior entropy = {h:.4f} (closer to 0 = more certain; max ~ {np.log(len(example_posterior)):.4f})")你的第三个问题: 在什么情况下,第三层的元信息(“我不确定”)应该覆盖第一层的直接预测?你能找到一个具体的例子吗?
第四步:找到你的锚点
现在回到第七节说过的话:“每一个推理系统都有一个锚点,是它自己的推理过程无法完全触及的。”
对你的贝叶斯机器来说,锚点就是先验。
做一个实验:用三个不同的先验——均匀先验、强烈偏向某一个假设的先验、完全错误的先验——跑同一个观测序列。
记录:
- 在三个先验下,后验需要多少次观测才能达到“几乎相同”的结果?
- 如果数据有限(比如只有 20 次观测),三个先验给出的最终信念相差多远?
你的第四个问题(也是这个练习中最难的问题): 如果你的先验完全错误,贝叶斯更新能修正它吗?需要多少数据?对于一个在错误训练数据上预训练的 AI 系统,这意味着什么?
检查你的成果
你不需要完美。你需要:
一个真正能跑通的“先验 -> 观测 -> 后验更新”完整循环
能清楚地说出你的先验是什么,以及你为什么这样设置
一个让你的系统崩溃的案例——一个你的假设空间没有覆盖的情况
第三点最重要。专家系统失败,是因为它们撞上了规则库的边界。你的贝叶斯机器会在哪里撞上自己的边界?
延伸阅读
[Friston et al., 2020] ——自由能原理:Markov 毯、贝叶斯力学与近似推断,arXiv:2002.04501
[Sennesh et al., 2022] ——主动推断的时间平均形式化,连接最优控制与神经生理学,arXiv:2208.10601
[Chattopadhyay et al., 2025] ——Landauer 原理与计算热力学综述,arXiv:2506.10876
[Tlusty, 2010] ——生物分子码的率失真理论:生命作为信息信道,arXiv:1007.4471
Schrödinger, E. (1944). What is Life?——生命与负熵,本章思想的哲学起点
Pearl, J. & Mackenzie, D. (2018). The Book of Why——因果阶梯的通俗解读,第六章之前的必读材料
