随机变量的变换的Wishart分布
字数 1173 2025-11-13 07:32:46

随机变量的变换的Wishart分布

Wishart分布是多元统计分析中最重要的分布之一,它描述了样本协方差矩阵的抽样分布。我们可以通过以下步骤来理解它:

  1. 基础:卡方分布
    我们从一元情况开始。如果 Z₁, Z₂, ..., Zₙ 是 n 个独立同分布的标准正态随机变量(即 Zᵢ ~ N(0,1)),那么这些随机变量的平方和服从自由度为 n 的卡方分布:
    X = Z₁² + Z₂² + ... + Zₙ² ~ χ²ₙ
    卡方分布描述了一组独立标准正态随机变量平方和的分布。

  2. 推广:多元正态分布
    现在考虑多元情况。设 X 是一个 p 维随机向量,如果 X ~ Nₚ(μ, Σ),其中 μ 是 p 维均值向量,Σ 是 p×p 协方差矩阵,则称 X 服从 p 维多元正态分布。

  3. Wishart分布的定义
    X₁, X₂, ..., Xₙ 是 n 个独立同分布的 p 维随机向量,且 Xᵢ ~ Nₚ(0, Σ),即来自均值为零向量的多元正态分布。定义 p×p 随机矩阵:
    W = ∑ᵢ₌₁ⁿ XXᵢᵀ
    其中 XXᵢᵀ 是外积(p×p 矩阵)。那么 W 服从自由度为 n、尺度矩阵为 Σ 的Wishart分布,记作 W ~ Wₚ(n, Σ)。

  4. 直观理解

    • Wishart分布是卡方分布在多元情况下的推广
    • 当 p = 1 时,Wishart分布退化为卡方分布
    • 矩阵 W 可以看作是样本协方差矩阵的缩放形式
    • 自由度 n 对应于样本大小
    • 尺度矩阵 Σ 对应于总体协方差矩阵
  5. 概率密度函数
    当 n ≥ p 且 Σ 正定时,Wishart分布的概率密度函数为:
    f(W) = [ |W|⁽ⁿ⁻ᵖ⁻¹⁾/² exp(-½tr(Σ⁻¹W)) ] / [ 2⁽ⁿᵖ⁾/² |Σ|⁽ⁿ⁾/² Γₚ(n/2) ]
    其中:

    • |·| 表示矩阵的行列式
    • tr(·) 表示矩阵的迹
    • Γₚ(·) 是多元Gamma函数
  6. 重要性质

    • 均值:E[W] = nΣ
    • 可加性:如果 W₁ ~ Wₚ(n₁, Σ) 且 W₂ ~ Wₚ(n₂, Σ) 相互独立,则 W₁ + W₂ ~ Wₚ(n₁ + n₂, Σ)
    • 尺度变换:如果 W ~ Wₚ(n, Σ),且 A 是 p×p 可逆矩阵,则 AWAᵀ ~ Wₚ(n, AΣAᵀ)
  7. 统计应用
    Wishart分布在多元统计分析中有广泛应用:

    • 样本协方差矩阵的分布推导
    • 多元正态分布的假设检验
    • 主成分分析
    • 因子分析
    • 多元回归分析

理解Wishart分布的关键在于认识到它是描述多元正态数据中协方差结构不确定性的基本工具,正如卡方分布描述一元正态数据中方差的不确定性一样。

随机变量的变换的Wishart分布 Wishart分布是多元统计分析中最重要的分布之一,它描述了样本协方差矩阵的抽样分布。我们可以通过以下步骤来理解它: 基础:卡方分布 我们从一元情况开始。如果 Z₁, Z₂, ..., Zₙ 是 n 个独立同分布的标准正态随机变量(即 Zᵢ ~ N(0,1)),那么这些随机变量的平方和服从自由度为 n 的卡方分布: X = Z₁² + Z₂² + ... + Zₙ² ~ χ²ₙ 卡方分布描述了一组独立标准正态随机变量平方和的分布。 推广:多元正态分布 现在考虑多元情况。设 X 是一个 p 维随机向量,如果 X ~ Nₚ( μ , Σ ),其中 μ 是 p 维均值向量, Σ 是 p×p 协方差矩阵,则称 X 服从 p 维多元正态分布。 Wishart分布的定义 设 X ₁, X ₂, ..., X ₙ 是 n 个独立同分布的 p 维随机向量,且 X ᵢ ~ Nₚ( 0 , Σ ),即来自均值为零向量的多元正态分布。定义 p×p 随机矩阵: W = ∑ᵢ₌₁ⁿ X ᵢ X ᵢᵀ 其中 X ᵢ X ᵢᵀ 是外积(p×p 矩阵)。那么 W 服从自由度为 n、尺度矩阵为 Σ 的Wishart分布,记作 W ~ Wₚ(n, Σ )。 直观理解 Wishart分布是卡方分布在多元情况下的推广 当 p = 1 时,Wishart分布退化为卡方分布 矩阵 W 可以看作是样本协方差矩阵的缩放形式 自由度 n 对应于样本大小 尺度矩阵 Σ 对应于总体协方差矩阵 概率密度函数 当 n ≥ p 且 Σ 正定时,Wishart分布的概率密度函数为: f( W ) = [ | W |⁽ⁿ⁻ᵖ⁻¹⁾/² exp(-½tr( Σ ⁻¹ W )) ] / [ 2⁽ⁿᵖ⁾/² | Σ |⁽ⁿ⁾/² Γₚ(n/2) ] 其中: |·| 表示矩阵的行列式 tr(·) 表示矩阵的迹 Γₚ(·) 是多元Gamma函数 重要性质 均值:E[ W ] = n Σ 可加性:如果 W ₁ ~ Wₚ(n₁, Σ ) 且 W ₂ ~ Wₚ(n₂, Σ ) 相互独立,则 W ₁ + W ₂ ~ Wₚ(n₁ + n₂, Σ ) 尺度变换:如果 W ~ Wₚ(n, Σ ),且 A 是 p×p 可逆矩阵,则 AWA ᵀ ~ Wₚ(n, AΣA ᵀ) 统计应用 Wishart分布在多元统计分析中有广泛应用: 样本协方差矩阵的分布推导 多元正态分布的假设检验 主成分分析 因子分析 多元回归分析 理解Wishart分布的关键在于认识到它是描述多元正态数据中协方差结构不确定性的基本工具,正如卡方分布描述一元正态数据中方差的不确定性一样。