随机变量的变换的Lehmann–Scheffé定理
字数 1079 2025-11-19 08:36:58

随机变量的变换的Lehmann–Scheffé定理

我们先从统计推断中的基本概念开始。在参数估计中,一个核心目标是寻找"好"的估计量。无偏性是一个常见要求:若估计量 \(T\) 满足 \(E[T] = \theta\),则称其为参数 \(\theta\) 的无偏估计。但无偏估计通常不唯一,因此需要进一步筛选。

接下来引入充分统计量的概念。若在给定统计量 \(S\) 的条件下,样本的条件分布不依赖于参数 \(\theta\),则 \(S\) 称为充分统计量。直观上,\(S\) 包含了样本中关于 \(\theta\) 的全部信息。例如,对于正态分布 \(N(\mu, 1)\),样本均值 \(\bar{X}\) 就是 \(\mu\) 的充分统计量。

现在考虑将充分性与无偏性结合。若一个统计量既是充分的又是无偏的,我们自然会问:它是否在某种意义上是"最优"的?这引出了完备性的概念:若统计量 \(S\) 满足“对任意函数 \(g\),若 \(E[g(S)] = 0\) 对所有 \(\theta\) 成立,则 \(P(g(S) = 0) = 1\)”,则称 \(S\) 是完备的。完备性保证了统计量的分布被唯一确定。

基于这些准备,我们可以完整阐述Lehmann–Scheffé定理:若 \(S\) 是参数 \(\theta\) 的充分且完备统计量,而 \(T\)\(\theta\) 的一个无偏估计,则条件期望 \(\phi(S) = E[T|S]\) 是唯一的一致最小方差无偏估计(UMVUE)。这意味着在所有无偏估计中,\(\phi(S)\) 的方差达到最小。

该定理的证明分为几个关键步骤。首先,利用充分性,\(\phi(S)\) 确实是一个统计量(不依赖于未知参数)。其次,由条件期望性质,\(\phi(S)\) 保持无偏性。然后,应用完备性证明唯一性:若存在另一个无偏估计 \(\psi(S)\),则 \(E[\phi(S) - \psi(S)] = 0\),由完备性得 \(\phi(S) = \psi(S)\) 几乎必然。最后,通过条件期望的方差分解公式证明最小方差性。

理解这一定理需要注意几个要点。充分完备统计量的存在是前提条件;估计量必须是 \(S\) 的函数形式;定理保证的是在无偏估计类中的最优性。在实际应用中,常见分布族(如指数族)通常满足这些条件,使得该定理成为寻找最优估计的有力工具。

随机变量的变换的Lehmann–Scheffé定理 我们先从统计推断中的基本概念开始。在参数估计中,一个核心目标是寻找"好"的估计量。无偏性是一个常见要求:若估计量 \( T \) 满足 \( E[ T ] = \theta \),则称其为参数 \( \theta \) 的无偏估计。但无偏估计通常不唯一,因此需要进一步筛选。 接下来引入充分统计量的概念。若在给定统计量 \( S \) 的条件下,样本的条件分布不依赖于参数 \( \theta \),则 \( S \) 称为充分统计量。直观上,\( S \) 包含了样本中关于 \( \theta \) 的全部信息。例如,对于正态分布 \( N(\mu, 1) \),样本均值 \( \bar{X} \) 就是 \( \mu \) 的充分统计量。 现在考虑将充分性与无偏性结合。若一个统计量既是充分的又是无偏的,我们自然会问:它是否在某种意义上是"最优"的?这引出了完备性的概念:若统计量 \( S \) 满足“对任意函数 \( g \),若 \( E[ g(S) ] = 0 \) 对所有 \( \theta \) 成立,则 \( P(g(S) = 0) = 1 \)”,则称 \( S \) 是完备的。完备性保证了统计量的分布被唯一确定。 基于这些准备,我们可以完整阐述Lehmann–Scheffé定理:若 \( S \) 是参数 \( \theta \) 的充分且完备统计量,而 \( T \) 是 \( \theta \) 的一个无偏估计,则条件期望 \( \phi(S) = E[ T|S ] \) 是唯一的一致最小方差无偏估计(UMVUE)。这意味着在所有无偏估计中,\( \phi(S) \) 的方差达到最小。 该定理的证明分为几个关键步骤。首先,利用充分性,\( \phi(S) \) 确实是一个统计量(不依赖于未知参数)。其次,由条件期望性质,\( \phi(S) \) 保持无偏性。然后,应用完备性证明唯一性:若存在另一个无偏估计 \( \psi(S) \),则 \( E[ \phi(S) - \psi(S) ] = 0 \),由完备性得 \( \phi(S) = \psi(S) \) 几乎必然。最后,通过条件期望的方差分解公式证明最小方差性。 理解这一定理需要注意几个要点。充分完备统计量的存在是前提条件;估计量必须是 \( S \) 的函数形式;定理保证的是在无偏估计类中的最优性。在实际应用中,常见分布族(如指数族)通常满足这些条件,使得该定理成为寻找最优估计的有力工具。