马尔可夫链的遍历性
字数 876 2025-10-29 21:53:06

马尔可夫链的遍历性

第一步:理解遍历性的直观背景
马尔可夫链的遍历性(Ergodicity)是描述链在长期行为中能否“忘记初始状态”的重要性质。若一个链是遍历的,则无论从哪个初始状态出发,经过足够长的时间后,其状态分布会趋近于唯一的平稳分布,且时间平均等于空间平均。这一性质在统计物理、蒙特卡洛方法中至关重要。

第二步:严格定义遍历性所需条件
遍历性需要同时满足以下两个条件:

  1. 不可约性:链的所有状态互通(已学概念),即从任意状态出发可到达任何其他状态。
  2. 非周期性:所有状态的最大公约数为1(已学概念),避免状态因周期循环无法收敛。
  3. 正常返性:所有状态是正常返的(已学概念),即从状态 \(i\) 出发返回 \(i\) 的期望时间有限。

第三步:遍历性的数学表述
若马尔可夫链满足以上条件,则存在唯一的平稳分布 \(\pi\),且对任意初始状态 \(i\) 和状态 \(j\),有:

\[\lim_{n \to \infty} P_{ij}^{(n)} = \pi_j, \]

其中 \(P_{ij}^{(n)}\)\(n\) 步转移概率。同时,对于链的样本路径 \(\{X_n\}\),时间平均几乎必然收敛于空间平均:

\[\lim_{N \to \infty} \frac{1}{N} \sum_{n=1}^N f(X_n) = \mathbb{E}_\pi[f(X)], \]

其中 \(f\) 是任意有界函数,\(\mathbb{E}_\pi\) 表示对平稳分布 \(\pi\) 求期望。

第四步:遍历性的实际意义
遍历性保证了:

  • 长期观测的统计量(如样本均值)可替代整体分布的期望。
  • 在MCMC方法中,只需一条足够长的链即可估计目标分布,无需多次重启链。
  • 物理系统中,遍历性解释了微观运动与宏观统计规律的联系。

第五步:反例与注意事项
若链不满足遍历性(如存在多个连通分量、周期或零常返状态),则长期行为可能依赖初始状态,或无法收敛到唯一分布。验证遍历性需严格检查不可约性、周期性和常返性条件。

马尔可夫链的遍历性 第一步:理解遍历性的直观背景 马尔可夫链的遍历性(Ergodicity)是描述链在长期行为中能否“忘记初始状态”的重要性质。若一个链是遍历的,则无论从哪个初始状态出发,经过足够长的时间后,其状态分布会趋近于唯一的平稳分布,且时间平均等于空间平均。这一性质在统计物理、蒙特卡洛方法中至关重要。 第二步:严格定义遍历性所需条件 遍历性需要同时满足以下两个条件: 不可约性 :链的所有状态互通(已学概念),即从任意状态出发可到达任何其他状态。 非周期性 :所有状态的最大公约数为1(已学概念),避免状态因周期循环无法收敛。 正常返性 :所有状态是正常返的(已学概念),即从状态 \(i\) 出发返回 \(i\) 的期望时间有限。 第三步:遍历性的数学表述 若马尔可夫链满足以上条件,则存在唯一的平稳分布 \(\pi\),且对任意初始状态 \(i\) 和状态 \(j\),有: \[ \lim_ {n \to \infty} P_ {ij}^{(n)} = \pi_ j, \] 其中 \(P_ {ij}^{(n)}\) 是 \(n\) 步转移概率。同时,对于链的样本路径 \(\{X_ n\}\),时间平均几乎必然收敛于空间平均: \[ \lim_ {N \to \infty} \frac{1}{N} \sum_ {n=1}^N f(X_ n) = \mathbb{E} \pi[ f(X) ], \] 其中 \(f\) 是任意有界函数,\(\mathbb{E} \pi\) 表示对平稳分布 \(\pi\) 求期望。 第四步:遍历性的实际意义 遍历性保证了: 长期观测的统计量(如样本均值)可替代整体分布的期望。 在MCMC方法中,只需一条足够长的链即可估计目标分布,无需多次重启链。 物理系统中,遍历性解释了微观运动与宏观统计规律的联系。 第五步:反例与注意事项 若链不满足遍历性(如存在多个连通分量、周期或零常返状态),则长期行为可能依赖初始状态,或无法收敛到唯一分布。验证遍历性需严格检查不可约性、周期性和常返性条件。