随机变量的特征函数
字数 1517 2025-10-30 17:43:44

随机变量的特征函数

  1. 定义与基本形式
    随机变量 \(X\) 的特征函数定义为复数域上的函数:

\[ \phi_X(t) = \mathbb{E}[e^{itX}], \quad t \in \mathbb{R}, \]

其中 \(i\) 是虚数单位。对于离散型随机变量,这是一个求和:\(\phi_X(t) = \sum_k e^{itx_k} P(X=x_k)\);对于连续型随机变量,这是一个积分:\(\phi_X(t) = \int_{-\infty}^{\infty} e^{itx} f_X(x) \, dx\)。这本质上是概率分布(或密度函数)的傅里叶变换。

  1. 核心性质
    特征函数具有几个关键性质,使其成为强大的分析工具:
  • 有界性\(|\phi_X(t)| \leq \phi_X(0) = 1\)
  • 一致连续性\(\phi_X(t)\) 在整个实数轴 \(\mathbb{R}\) 上一致连续。
    • 唯一性定理:随机变量的概率分布由其特征函数唯一确定。如果两个随机变量的特征函数处处相等,则它们同分布。
  • 线性变换:若 \(Y = aX + b\),则 \(\phi_Y(t) = e^{ibt} \phi_X(at)\)
  • 独立性:若 \(X\)\(Y\) 独立,则 \(X+Y\) 的特征函数为 \(\phi_{X+Y}(t) = \phi_X(t) \phi_Y(t)\)
  1. 与矩的关系
    特征函数与随机变量的矩(如果存在)有紧密联系。对特征函数在 \(t=0\) 处求导,可以得到各阶矩:

\[ \mathbb{E}[X^k] = \frac{1}{i^k} \left. \frac{d^k}{dt^k} \phi_X(t) \right|_{t=0}. \]

例如,一阶矩(期望)为 \(\mathbb{E}[X] = -i \phi_X'(0)\),二阶矩为 \(\mathbb{E}[X^2] = -\phi_X''(0)\)。因此,特征函数也被称为矩生成函数(如果矩生成函数存在,特征函数总是存在)。

  1. 逆转公式与连续性定理
  • 逆转公式:给定特征函数 \(\phi(t)\),可以通过一个积分公式(逆转公式)恢复出其对应的分布函数 \(F(x)\)。这从理论上保证了分布与特征函数的一一对应关系。
  • 连续性定理(莱维连续性定理):一列分布函数 \(\{F_n(x)\}\) 弱收敛于某分布函数 \(F(x)\) 的充分必要条件是,其对应的特征函数序列 \(\{\phi_n(t)\}\) 逐点收敛于一个在 \(t=0\) 处连续的函数 \(\phi(t)\),并且 \(\phi(t)\) 正好是极限分布 \(F(x)\) 的特征函数。这个定理是特征函数在概率论极限理论中应用的核心。
  1. 应用:中心极限定理的证明
    特征函数是证明中心极限定理最简洁有力的工具。其基本思路是:考虑标准化后的独立同分布随机变量和 \(S_n^* = (S_n - n\mu)/(\sigma\sqrt{n})\),计算其特征函数 \(\phi_{S_n^*}(t)\)。利用特征函数的性质,证明当 \(n \to \infty\) 时,\(\phi_{S_n^*}(t)\) 收敛于标准正态分布的特征函数 \(e^{-t^2/2}\)。最后,应用连续性定理,即可得出 \(S_n^*\) 依分布收敛于标准正态分布。
随机变量的特征函数 定义与基本形式 随机变量 \( X \) 的特征函数定义为复数域上的函数: \[ \phi_ X(t) = \mathbb{E}[ e^{itX} ], \quad t \in \mathbb{R}, \] 其中 \( i \) 是虚数单位。对于离散型随机变量,这是一个求和:\( \phi_ X(t) = \sum_ k e^{itx_ k} P(X=x_ k) \);对于连续型随机变量,这是一个积分:\( \phi_ X(t) = \int_ {-\infty}^{\infty} e^{itx} f_ X(x) \, dx \)。这本质上是概率分布(或密度函数)的傅里叶变换。 核心性质 特征函数具有几个关键性质,使其成为强大的分析工具: 有界性 :\( |\phi_ X(t)| \leq \phi_ X(0) = 1 \)。 一致连续性 :\( \phi_ X(t) \) 在整个实数轴 \( \mathbb{R} \) 上一致连续。 唯一性定理 :随机变量的概率分布由其特征函数唯一确定。如果两个随机变量的特征函数处处相等,则它们同分布。 线性变换 :若 \( Y = aX + b \),则 \( \phi_ Y(t) = e^{ibt} \phi_ X(at) \)。 独立性 :若 \( X \) 和 \( Y \) 独立,则 \( X+Y \) 的特征函数为 \( \phi_ {X+Y}(t) = \phi_ X(t) \phi_ Y(t) \)。 与矩的关系 特征函数与随机变量的矩(如果存在)有紧密联系。对特征函数在 \( t=0 \) 处求导,可以得到各阶矩: \[ \mathbb{E}[ X^k] = \frac{1}{i^k} \left. \frac{d^k}{dt^k} \phi_ X(t) \right|_ {t=0}. \] 例如,一阶矩(期望)为 \( \mathbb{E}[ X] = -i \phi_ X'(0) \),二阶矩为 \( \mathbb{E}[ X^2] = -\phi_ X''(0) \)。因此,特征函数也被称为矩生成函数(如果矩生成函数存在,特征函数总是存在)。 逆转公式与连续性定理 逆转公式 :给定特征函数 \( \phi(t) \),可以通过一个积分公式(逆转公式)恢复出其对应的分布函数 \( F(x) \)。这从理论上保证了分布与特征函数的一一对应关系。 连续性定理 (莱维连续性定理):一列分布函数 \( \{F_ n(x)\} \) 弱收敛于某分布函数 \( F(x) \) 的充分必要条件是,其对应的特征函数序列 \( \{\phi_ n(t)\} \) 逐点收敛于一个在 \( t=0 \) 处连续的函数 \( \phi(t) \),并且 \( \phi(t) \) 正好是极限分布 \( F(x) \) 的特征函数。这个定理是特征函数在概率论极限理论中应用的核心。 应用:中心极限定理的证明 特征函数是证明中心极限定理最简洁有力的工具。其基本思路是:考虑标准化后的独立同分布随机变量和 \( S_ n^* = (S_ n - n\mu)/(\sigma\sqrt{n}) \),计算其特征函数 \( \phi_ {S_ n^ }(t) \)。利用特征函数的性质,证明当 \( n \to \infty \) 时,\( \phi_ {S_ n^ }(t) \) 收敛于标准正态分布的特征函数 \( e^{-t^2/2} \)。最后,应用连续性定理,即可得出 \( S_ n^* \) 依分布收敛于标准正态分布。