7.1 KiB
题型二:大数定律的判定与计算
识别特征
- 题干出现"依概率收敛""$\xrightarrow{P}$"
- 涉及"
n很大时"独立同分布的均值行为 - 需要识别切比雪夫 / 辛钦 / 伯努利三大定律
- 题目要求判断某随机变量序列满足哪个大数定律或证明依概率收敛
解题流程
flowchart TD
A[识别:依概率收敛题] --> B{序列是 0-1 分布?}
B -->|是| C[用伯努利大数定律]
B -->|否| D{独立同分布?}
D -->|是| E{期望存在?}
D -->|否| F{两两不相关 + 方差有界?}
E -->|是| G[用辛钦大数定律]
E -->|否| H[不能用 LLN]
F -->|是| I[用切比雪夫大数定律]
F -->|否| H
C --> J[写出 X̄ →ᵖ μ]
G --> J
I --> J
通法步骤
一、依概率收敛定义
设 \{X_n\} 是一随机变量序列,X 是随机变量,若对任意 $\varepsilon > 0$:
\lim_{n\to\infty} P(|X_n - X| \ge \varepsilon) = 0
则称 \{X_n\} 依概率收敛于 $X$,记作 $X_n \xrightarrow{P} X$。
二、三大定律对照
| 定律 | 条件 | 结论 | 关键标志 |
|---|---|---|---|
| 切比雪夫 LLN | 两两不相关 + D(X_i) 一致有界 |
\frac{1}{n}\sum (X_i - \mu_i) \xrightarrow{P} 0 |
"不相关""方差有界" |
| 辛钦 LLN | i.i.d. + E(X_i) = \mu 存在 |
\bar{X} \xrightarrow{P} \mu |
"独立同分布" |
| 伯努利 LLN | 独立 + 0-1 分布 | f_n(A) \xrightarrow{P} p |
"频率""$n_A$""成功次数" |
三、应用步骤(四步法)
- 识别分布类型:题目给的是 0-1 分布?独立同分布?还是两两不相关?
- 验证前提:是否满足所选定律的所有条件?
- 套用结论:
\bar{X} \xrightarrow{P} \mu或f_n \xrightarrow{P} p - 写出极限:明确写明依概率收敛到的常数
四、依概率收敛的运算性质
| 性质 | 公式 |
|---|---|
| 和 | 若 $X_n \xrightarrow{P} a, Y_n \xrightarrow{P} b$,则 X_n + Y_n \xrightarrow{P} a + b |
| 积 | 若 $X_n \xrightarrow{P} a, Y_n \xrightarrow{P} b$,则 X_n Y_n \xrightarrow{P} ab |
| 连续映射 | 若 X_n \xrightarrow{P} a, g 连续,则 g(X_n) \xrightarrow{P} g(a) |
⚠️ 注意:以上性质对依概率收敛成立,但不能直接推出几乎必然收敛。
五、重要极限公式
| 极限 | 推导依据 |
|---|---|
\frac{1}{n}\sum X_i \xrightarrow{P} E(X_i) |
辛钦 LLN |
\frac{1}{n}\sum X_i^2 \xrightarrow{P} E(X^2) |
辛钦 LLN(X_i^2 仍 i.i.d.) |
\frac{1}{n}\sum f(X_i) \xrightarrow{P} E[f(X)] |
辛钦 LLN 推广(f 连续) |
常见陷阱
- 陷阱 1:辛钦 LLN 要求独立同分布(i.i.d.),漏掉任何一项都不能用
- 陷阱 2:题目"独立但不同分布"时,辛钦 LLN 不可用,需用切比雪夫 LLN(验证方差一致有界)
- 陷阱 3:辛钦 LLN 要求
E(X_i)存在;柯西分布无期望,不能用 - 陷阱 4:把"依概率收敛"等同于"必然收敛"——后者要求
P(\lim X_n = X) = 1 - 陷阱 5:伯努利 LLN 是辛钦 LLN 的特例($X_i \sim B(1, p)$),但不是所有 0-1 分布都满足伯努利 LLN
- 陷阱 6:三大 LLN 都要求方差存在或期望存在(柯西分布有陷阱)
经典母题
题目 1:设
X_1, X_2, \ldots, X_n, \ldots独立同分布,且E(X_i) = \mu存在,$D(X_i) = \sigma^2$。证明 $\bar{X}n = \frac{1}{n}\sum{i=1}^n X_i \xrightarrow{P} \mu$。
解析:
由切比雪夫不等式,对任意 $\varepsilon > 0$:
P(|\bar{X}_n - \mu| \ge \varepsilon) \le \frac{D(\bar{X}_n)}{\varepsilon^2} = \frac{\sigma^2/n}{\varepsilon^2} = \frac{\sigma^2}{n\varepsilon^2}
由于 $\dfrac{\sigma^2}{n\varepsilon^2} \to 0$($n \to \infty$),所以:
\lim_{n\to\infty} P(|\bar{X}_n - \mu| \ge \varepsilon) = 0
即 $\bar{X}_n \xrightarrow{P} \mu$。
复盘:
- 这就是辛钦 LLN 的标准证法:用切比雪夫不等式证明
- 证明模板:$P(|\bar{X}_n - \mu| \ge \varepsilon) \le \dfrac{\sigma^2}{n\varepsilon^2} \to 0$
- 揭示了辛钦 LLN 的条件比切比雪夫 LLN 强,但结论等价(在 i.i.d. 情形)
题目 2:设
X_1, X_2, \ldots独立,X_i的分布律为 $P(X_i = i) = P(X_i = -i) = 1/2$。问\{\bar{X}_n\}是否依概率收敛?
解析:
注意:$D(X_i) = E(X_i^2) = i^2$,所以 $D(\bar{X}n) = \frac{1}{n^2}\sum{i=1}^n i^2 = \frac{(n+1)(2n+1)}{6n^2} \to \frac{1}{3} \ne 0$。
错误思路:误用辛钦 LLN(实际不满足方差一致有界)。
正确答案:
- 切比雪夫 LLN 要求 $D(X_i) \le C$(一致有界),但 $D(X_i) = i^2 \to \infty$,不满足
- 辛钦 LLN 要求独立同分布,但
X_i分布不同,不满足 - 不能直接用任何 LLN!
复盘:
- 这道题揭示了 LLN 条件的必要性
D(X_i)无界时,\bar{X}_n不会依概率收敛
题目 3:设
X_i \sim B(1, p)独立同分布,n_A是n次试验中A发生次数。证明 $\dfrac{n_A}{n} \xrightarrow{P} p$。
解析:
由辛钦 LLN,X_i 独立同分布,E(X_i) = p 存在,所以:
\bar{X}_n = \frac{1}{n}\sum X_i = \frac{n_A}{n} \xrightarrow{P} E(X_i) = p
复盘:
- 伯努利 LLN 是辛钦 LLN 的特例(
X_i \sim B(1, p)是 i.i.d.) - "频率依概率收敛于概率"的严格化
题目 4:设
X_1, X_2, \ldots独立同分布,$E(X_i) = \mu$。问\dfrac{1}{n}\sum_{i=1}^n (X_i^2 - E(X_i^2))是否依概率收敛?收敛到几?
解析:
Y_i = X_i^2 仍独立同分布(i.i.d. 的函数仍 i.i.d.),且 E(Y_i) = E(X_i^2) 存在。
由辛钦 LLN:
\frac{1}{n}\sum Y_i = \frac{1}{n}\sum X_i^2 \xrightarrow{P} E(Y_i) = E(X_i^2)
所以:
\frac{1}{n}\sum_{i=1}^n (X_i^2 - E(X_i^2)) = \frac{1}{n}\sum X_i^2 - E(X_i^2) \xrightarrow{P} E(X_i^2) - E(X_i^2) = 0
复盘:
- 辛钦 LLN 的重要推论:
f(X_i)仍 i.i.d.,E(f)存在时\frac{1}{n}\sum f(X_i) \xrightarrow{P} E[f(X)] - 矩估计的理论基础:$\frac{1}{n}\sum X_i^k \xrightarrow{P} E(X^k)$
- Ch07 矩估计相合性的严格证明
题目 5(综合):设
X_1, \ldots, X_n独立,X_i分布律为 $P(X_i = k) = 1/2^k$($k = 1, 2, \ldots$)。问\bar{X}_n是否依概率收敛?
解析:
- $E(X_i) = \sum_{k=1}^\infty k/2^k = 2$(有限)
- 但 $D(X_i)$:先求 $E(X_i^2) = \sum k^2/2^k = 6$(有限)
- 所以 $D(X_i) = 6 - 4 = 2$(一致有界)
由切比雪夫 LLN,$\bar{X}_n \xrightarrow{P} 2$。
复盘:
- 关键判断:
D(X_i)是否一致有界(这里都是 2,有界) - 满足切比雪夫 LLN 条件:两两不相关(独立时自动成立)+ 方差有界
- 满足辛钦 LLN 条件:i.i.d. +
E(X_i)存在 - 两个定律都可用,结论一致
口诀速记:
- "i.i.d. + 期望" → 辛钦 LLN
- "0-1 分布" → 伯努利 LLN(辛钦的特例)
- "两两不相关 + 方差有界" → 切比雪夫 LLN
- "
f(X_i)仍 i.i.d." → 辛钦 LLN 可用于f(X)