马尔可夫链的收敛定理 我们首先从马尔可夫链的基本定义开始。一个马尔可夫链是一个随机过程，它具有“无记忆”的特性，即过程的未来状态的条件概率分布仅依赖于当前状态，而与过去的状态无关。这个特性被称为马尔可夫性。 接下来，我们讨论马尔可夫链的收敛性所依赖的关键性质。一个链要收敛，通常需要满足一些正则条件。其中最重要的是 不可约性 和 非周期性 。 不可约性 ：意味着从任何一个状态出发，经过有限步到达任何另一个状态的概率都是正的。整个状态空间是一个连通的整体，链无法被限制在一个更小的子集中。 非周期性 ：排除了链的状态在周期性的循环中震荡的可能性。一个非周期链的返回时间没有固定的周期模式。 一个同时满足不可约性和非周期性的马尔可夫链，如果还存在一个 平稳分布 ，那么收敛定理就有了坚实的基础。平稳分布是一个概率分布，如果链在某个时刻的分布是这个平稳分布，那么在此之后的所有时刻，它的分布都将保持不变。你可以将平稳分布想象成链的“终极平衡状态”。 现在，我们可以阐述马尔可夫链收敛定理的核心内容了。对于一个不可约、非周期、且具有平稳分布 π 的马尔可夫链，无论其初始分布是什么，随着时间步数 n 趋向于无穷大，链在时刻 n 的分布都会收敛到平稳分布 π。 用数学语言精确描述就是：对于链的所有状态 i 和 j，当 n → ∞ 时，从状态 i 出发经过 n 步后处于状态 j 的概率，趋近于平稳分布 π(j)。这个定理告诉我们，经过足够长的时间后，链的状态分布将几乎与平稳分布无异，并且会“忘记”它的起始状态。 最后，我们探讨这个定理的深远意义和应用。它不仅是马尔可夫链蒙特卡洛方法的理论基石，也为理解复杂随机系统的长期行为提供了关键工具。在实际应用中，它保证了我们可以通过运行一个设计好的马尔可夫链足够长的时间，来从其平稳分布中获取样本，即使这个分布本身非常复杂且无法直接采样。这使得我们能够解决高维积分、贝叶斯推断等传统方法难以处理的问题。