马尔可夫链的漂移与 Foster-Lyapunov 方法
-
基础概念回顾与问题背景
马尔可夫链的长期性质(如常返性、正常返性、平稳分布存在性)是概率论的核心问题。对于不可约的有限状态链,平稳分布必然存在;但对于无限状态空间的链(如随机游走、排队模型),情况更为复杂。此时需要一种强有力的工具——漂移条件(Drift Conditions),结合 Foster-Lyapunov 方法,通过分析链在某个势函数(Lyapunov 函数)上的“漂移”行为,来判定其稳定性。 -
Lyapunov 函数与漂移算子
- 设 \(\{X_n\}_{n \geq 0}\) 是状态空间 \(S\) 上的马尔可夫链,\(\mathcal{L}: S \to [0, \infty)\) 是一个Lyapunov 函数(又称能量函数),通常满足 \(\mathcal{L}(x) \to \infty\) 当 \(\|x\| \to \infty\)。
- 定义漂移算子 \(\Delta \mathcal{L}(x) := \mathbb{E}[\mathcal{L}(X_{n+1}) - \mathcal{L}(X_n) \mid X_n = x]\),表示从状态 \(x\) 出发一步转移后期望的能量变化。
- 直观意义:若 \(\Delta \mathcal{L}(x)\) 在大部分区域为负,说明链倾向于向“低能量”区域移动,暗示稳定性。
-
Foster-Lyapunov 定理(正常返性判据)
存在常数 \(\epsilon > 0\)、有限集 \(C \subset S\),使得对所有 \(x \in S\):
\[ \Delta \mathcal{L}(x) \leq -\epsilon + b \cdot \mathbb{1}_C(x), \]
其中 \(b > 0\),\(\mathbb{1}_C\) 是集合 \(C\) 的示性函数。
- 解释:
- 在有限集 \(C\) 外,漂移严格为负(\(\leq -\epsilon\)),推动链返回“中心区域”;
- 在 \(C\) 内,漂移可能为正,但受 \(b\) 控制。
- 结论:该条件保证链是正常返的,且存在唯一平稳分布。
- 几何遍历性的漂移条件
若存在常数 \(\gamma \in (0,1)\)、有限集 \(C\),使得:
\[ \Delta \mathcal{L}(x) \leq -\gamma \mathcal{L}(x) + b \cdot \mathbb{1}_C(x), \]
则链是几何遍历的(收敛到平稳分布的速度以几何级数衰减)。
- 意义:漂移与当前能量 \(\mathcal{L}(x)\) 成正比,强化了收敛性。
- 应用示例:带漂移的随机游走
考虑 \(S = \mathbb{Z}\),\(X_{n+1} = X_n + \xi_n\),其中 \(\{\xi_n\}\) 是均值为 \(\mu < 0\) 的独立同分布增量。取 \(\mathcal{L}(x) = |x|\),则:
\[ \Delta \mathcal{L}(x) = \mathbb{E}[|x + \xi| - |x|] \approx \mu \quad (\text{当 } |x| \text{ 较大时}). \]
由于 \(\mu < 0\),可选取有限区间 \(C = [-M, M]\),使得在 \(C\) 外有 \(\Delta \mathcal{L}(x) \leq -\epsilon\),满足 Foster-Lyapunov 条件,链是正常返的。
- Foster-Lyapunov 方法的推广
- 多步漂移条件:若单步漂移不满足负性,可检验 \(k\)-步漂移 \(\Delta_k \mathcal{L}(x) = \mathbb{E}[\mathcal{L}(X_{n+k}) - \mathcal{L}(X_n) \mid X_n = x]\)。
- 随机稳定性:方法可扩展至连续时间马尔可夫过程、扩散过程等。
- 耦合与漂移结合:与耦合方法联用,可精确估计收敛速率。