概率母函数
概率母函数是概率论中一种重要的解析工具，尤其适用于处理非负整数值随机变量。它通过一个幂级数来“生成”随机变量的概率分布信息。
第一步：理解定义和基本形式
对于一个取值为非负整数（即 k = 0, 1, 2, ...）的随机变量 X，其概率质量函数为 P(X=k)。我们定义 X 的概率母函数（Probability Generating Function, PGF）为函数 G_X(s)：
G_X(s) = E[s^X] = Σ_{k=0}^∞ P(X=k) * s^k
其中，
- E[ ] 表示期望。
- s 是一个实数（有时也允许是复数，但通常我们考虑其实数域内的性质），并且为了保证级数收敛，我们通常要求 |s| ≤ 1。
- s^X 是以 s 为底、随机变量 X 为指数的随机变量函数。
第二步：直观理解概率母函数的作用
概率母函数的核心思想是将一个离散的概率分布（一串可能很复杂的数字序列 P(X=0), P(X=1), P(X=2), ...）“打包”进一个单一的、光滑的函数 G_X(s) 中。这个函数包含了关于分布的所有信息。
你可以这样想象：
- 当我们把 s=0 代入时，G_X(0) = P(X=0) * 0^0 + P(X=1) * 0^1 + ... = P(X=0)。因为 0^0 在数学上通常定义为 1，而 0^k (k≥1) 都为 0。
- 当我们把 s=1 代入时，G_X(1) = Σ_{k=0}^∞ P(X=k) * 1^k = Σ_{k=0}^∞ P(X=k) = 1。这说明任何概率母函数在 s=1 处的函数值都为 1，这对应了概率的总和为 1 的性质。
所以，概率母函数就像一个“生成器”，通过对其进行不同的操作（如求导），可以“提取”出我们关心的分布特征。
第三步：利用概率母函数计算数字特征（矩）
概率母函数一个最强大的应用是方便地计算随机变量的期望、方差等矩。
-
计算期望 E[X]：
我们对 G_X(s) 关于 s 求一阶导数：
G'_X(s) = d/ds [Σ P(X=k) s^k] = Σ P(X=k) * k * s^{k-1}
然后，我们令 s=1：
G'_X(1) = Σ P(X=k) * k * 1^{k-1} = Σ k * P(X=k) = E[X]
因此，期望 E[X] 等于概率母函数在 s=1 处的一阶导数值。 -
计算方差 Var(X)：
方差的计算需要用到一阶矩 E[X] 和二阶矩 E[X(X-1)]。
我们先计算 E[X(X-1)]：
G''_X(s) = d²/ds² [G_X(s)] = Σ P(X=k) * k(k-1) * s^{k-2}
令 s=1：
G''_X(1) = Σ P(X=k) * k(k-1) = E[X(X-1)]
我们知道方差公式为 Var(X) = E[X²] - (E[X])²。
而 E[X²] = E[X(X-1) + X] = E[X(X-1)] + E[X] = G''_X(1) + G'_X(1)
所以，方差 Var(X) = G''_X(1) + G'_X(1) - [G'_X(1)]²。
第四步：概率母函数与独立随机变量和的关系
这是概率母函数的另一个关键优势。假设有 相互独立 的非负整数值随机变量 X 和 Y，它们的和 Z = X + Y 的概率母函数是多少？
根据期望的性质和独立性：
G_Z(s) = E[s^Z] = E[s^{X+Y}] = E[s^X * s^Y]
由于 X 和 Y 相互独立，s^X 和 s^Y 也相互独立，所以：
E[s^X * s^Y] = E[s^X] * E[s^Y] = G_X(s) * G_Y(s)
因此，独立随机变量和的概率母函数等于各自概率母函数的乘积。这个性质在处理如泊松过程等问题时极为有用。
第五步：一个简单例子——伯努利分布
让我们以伯努利分布为例来具体应用。设随机变量 X ~ Bernoulli(p)，即 P(X=1)=p, P(X=0)=1-p。
其概率母函数为：
G_X(s) = E[s^X] = P(X=0)s^0 + P(X=1)s^1 = (1-p)1 + ps = 1 - p + p*s
- 验证 G_X(1) = 1 - p + p*1 = 1。
- 计算期望：G'_X(s) = p，所以 E[X] = G'_X(1) = p。
- 计算方差：G''_X(s) = 0，所以 E[X(X-1)] = 0。则 Var(X) = 0 + p - p² = p(1-p)。结果与已知的伯努利分布方差一致。
通过这个例子，你可以看到概率母函数如何简洁地封装并帮助我们分析一个分布。对于更复杂的分布（如二项分布、几何分布、泊松分布），概率母函数能发挥更大的威力。