马尔可夫链蒙特卡洛方法 马尔可夫链蒙特卡洛方法是一种结合蒙特卡洛模拟和马尔可夫链的随机采样技术，主要用于从复杂概率分布中生成样本。以下将分步骤讲解其核心思想与实现方法。 1. 问题背景：复杂分布的采样困难 在统计学或机器学习中，常需计算高维概率分布（如后验分布）的期望或积分。 若分布形式复杂（如非标准形式、多峰），直接采样或解析计算往往不可行。 蒙特卡洛方法 通过随机样本的均值近似期望，但需依赖独立同分布样本。而MCMC通过构造马尔可夫链解决依赖采样问题。 2. 核心思想：马尔可夫链的平稳分布 马尔可夫链具有“无记忆性”，下一状态仅依赖当前状态。 若链满足一定条件（如不可约、非周期），其状态分布会收敛到唯一 平稳分布 。 MCMC的目标是：设计一个马尔可夫链，使其平稳分布恰好为目标分布 \( \pi(x) \)。 3. 关键算法：Metropolis-Hastings算法 步骤1：提议分布 从当前状态 \( x_ t \) 生成候选状态 \( x' \)，使用提议分布 \( q(x' \mid x_ t) \)（如高斯分布）。 步骤2：接受概率 计算接受概率 \( A(x' \mid x_ t) = \min\left(1, \frac{\pi(x') q(x_ t \mid x')}{\pi(x_ t) q(x' \mid x_ t)}\right) \)。 分子与分母的比值修正提议分布的偏差，确保平稳性满足细致平衡条件。 步骤3：状态转移 以概率 \( A \) 接受 \( x' \)（即 \( x_ {t+1} = x' \)），否则保持当前状态（ \( x_ {t+1} = x_ t \)）。 4. 收敛性与样本使用 初始若干样本可能受初始值影响（ 预烧期 ），需丢弃。 后续样本虽非独立，但依遍历性定理，其均值可收敛到期望值。 样本间相关性可通过 稀释 （每隔k步取一个样本）缓解。 5. 变体与扩展 Gibbs采样 ：适用于多维分布，固定其他变量时逐维采样，是MH算法的特例（接受恒为1）。 Hamiltonian Monte Carlo ：利用梯度信息提高高维空间采样效率，适用于连续分布。 6. 应用场景 贝叶斯统计中从后验分布采样。 物理系统的平衡态模拟。 神经网络参数估计或隐变量模型推断。 通过以上步骤，MCMC将采样问题转化为马尔可夫链的收敛问题，成为处理复杂概率模型的重要工具。