随机规划中的序贯随机拟蒙特卡洛方法
-
基本概念与动机
在随机规划中,常需计算高维积分(如期望目标函数),例如形式为 \(\mathbb{E}[F(x,\xi)] = \int_{\Xi} F(x,\xi) \, dP(\xi)\)。传统蒙特卡洛(MC)方法通过随机样本逼近,但收敛速率仅为 \(O(1/\sqrt{N})\)。拟蒙特卡洛(QMC)方法利用低差异序列(如Sobol序列)替代随机样本,使收敛速率接近 \(O((\log N)^d / N)\),其中 \(d\) 为维度。然而,随机规划中决策变量 \(x\) 的迭代更新会导致积分域变化,需动态调整样本分布。序贯随机拟蒙特卡洛(Sequential Randomized QMC, SRQMC)结合了QMC的低差异性与重采样技术,适用于随机近似类算法(如随机梯度下降)的序贯决策过程。 -
低差异序列的随机化处理
纯QMC序列是确定性的,难以估计误差。SRQMC通过随机化(如随机移位、 scrambling技术)使序列在保留低差异性的同时具备均匀性,即每个随机化后的点仍服从均匀分布。例如,对Sobol序列施加随机移位 \(\tilde{u}_i = u_i + \Delta \mod 1\)(\(\Delta \sim U[0,1]^d\)),生成多个独立随机化的QMC序列,从而支持统计误差评估。 -
序贯重要性采样与重加权
在迭代过程中,决策变量 \(x_t\) 的更新会改变目标函数 \(F(x_t, \xi)\) 的权重分布。SRQMC通过重要性采样调整样本权重:若第 \(t\) 步的样本 \(\{\xi_i^{(t)}\}\) 来自提议分布 \(q_t\),则权重为 \(w_i^{(t)} \propto dP(\xi)/q_t(\xi)\)。为避免权重退化(部分样本权重趋近零),引入重采样步骤(如系统重采样),从 \(\{\xi_i^{(t)}\}\) 中按权重比例抽取新样本集,重置权重为均匀值。 -
动态嵌入随机优化算法
以随机梯度下降为例,第 \(t\) 步的梯度估计为:
\[ \hat{g}_t = \frac{1}{N} \sum_{i=1}^N w_i^{(t)} \nabla_x F(x_t, \xi_i^{(t)}). \]
SRQMC在每一步生成随机化QMC样本,计算加权梯度后更新 \(x_{t+1} = x_t - \eta_t \hat{g}_t\)。由于QMC样本在维度间相关性更优,梯度估计的方差显著低于MC,加速收敛。
-
维度缩减与自适应策略
高维随机变量会削弱QMC优势。SRQMC常结合布朗桥、主成分分析等技术,将关键变量映射至低维空间。此外,可自适应调整提议分布 \(q_t\) 使其接近当前决策 \(x_t\) 下的重要区域(如方差缩减的控制变量法),进一步提升效率。 -
收敛性分析
在光滑性假设下,SRQMC的梯度估计误差界为 \(O((\log N)^d / N)\),整体优化误差受步长 \(\eta_t\) 与样本数 \(N\) 共同影响。通过动态平衡QMC样本数与优化迭代次数,可达到较纯MC更优的复杂度。