185 lines
7.1 KiB
Markdown
185 lines
7.1 KiB
Markdown
# 题型二:大数定律的判定与计算
|
||||
|
|
|
|||
|
|
## 识别特征
|
|||
|
|
|
|||
|
|
- 题干出现"依概率收敛""$\xrightarrow{P}$"
|
|||
|
|
- 涉及"$n$ 很大时"独立同分布的均值行为
|
|||
|
|
- 需要识别**切比雪夫 / 辛钦 / 伯努利**三大定律
|
|||
|
|
- 题目要求判断某随机变量序列**满足哪个大数定律**或**证明依概率收敛**
|
|||
|
|
|
|||
|
|
## 解题流程
|
|||
|
|
|
|||
|
|
```mermaid
|
|||
|
|
flowchart TD
|
|||
|
|
A[识别:依概率收敛题] --> B{序列是 0-1 分布?}
|
|||
|
|
B -->|是| C[用伯努利大数定律]
|
|||
|
|
B -->|否| D{独立同分布?}
|
|||
|
|
D -->|是| E{期望存在?}
|
|||
|
|
D -->|否| F{两两不相关 + 方差有界?}
|
|||
|
|
E -->|是| G[用辛钦大数定律]
|
|||
|
|
E -->|否| H[不能用 LLN]
|
|||
|
|
F -->|是| I[用切比雪夫大数定律]
|
|||
|
|
F -->|否| H
|
|||
|
|
C --> J[写出 X̄ →ᵖ μ]
|
|||
|
|
G --> J
|
|||
|
|
I --> J
|
|||
|
|
```
|
|||
|
|
|
|||
|
|
## 通法步骤
|
|||
|
|
|
|||
|
|
### 一、依概率收敛定义
|
|||
|
|
|
|||
|
|
设 $\{X_n\}$ 是一随机变量序列,$X$ 是随机变量,若对任意 $\varepsilon > 0$:
|
|||
|
|
$$
|
|||
|
|
\lim_{n\to\infty} P(|X_n - X| \ge \varepsilon) = 0
|
|||
|
|
$$
|
|||
|
|
则称 $\{X_n\}$ **依概率收敛**于 $X$,记作 $X_n \xrightarrow{P} X$。
|
|||
|
|
|
|||
|
|
### 二、三大定律对照
|
|||
|
|
|
|||
|
|
| 定律 | 条件 | 结论 | 关键标志 |
|
|||
|
|
|------|------|------|---------|
|
|||
|
|
| **切比雪夫 LLN** | 两两不相关 + $D(X_i)$ 一致有界 | $\frac{1}{n}\sum (X_i - \mu_i) \xrightarrow{P} 0$ | "不相关""方差有界" |
|
|||
|
|
| **辛钦 LLN** | i.i.d. + $E(X_i) = \mu$ 存在 | $\bar{X} \xrightarrow{P} \mu$ | "独立同分布" |
|
|||
|
|
| **伯努利 LLN** | 独立 + 0-1 分布 | $f_n(A) \xrightarrow{P} p$ | "频率""$n_A$""成功次数" |
|
|||
|
|
|
|||
|
|
### 三、应用步骤(四步法)
|
|||
|
|
|
|||
|
|
1. **识别分布类型**:题目给的是 0-1 分布?独立同分布?还是两两不相关?
|
|||
|
|
2. **验证前提**:是否满足所选定律的所有条件?
|
|||
|
|
3. **套用结论**:$\bar{X} \xrightarrow{P} \mu$ 或 $f_n \xrightarrow{P} p$
|
|||
|
|
4. **写出极限**:明确写明依概率收敛到的常数
|
|||
|
|
|
|||
|
|
### 四、依概率收敛的运算性质
|
|||
|
|
|
|||
|
|
| 性质 | 公式 |
|
|||
|
|
|------|------|
|
|||
|
|
| **和** | 若 $X_n \xrightarrow{P} a, Y_n \xrightarrow{P} b$,则 $X_n + Y_n \xrightarrow{P} a + b$ |
|
|||
|
|
| **积** | 若 $X_n \xrightarrow{P} a, Y_n \xrightarrow{P} b$,则 $X_n Y_n \xrightarrow{P} ab$ |
|
|||
|
|
| **连续映射** | 若 $X_n \xrightarrow{P} a, g$ 连续,则 $g(X_n) \xrightarrow{P} g(a)$ |
|
|||
|
|
|
|||
|
|
> ⚠️ **注意**:以上性质对**依概率收敛**成立,但**不能**直接推出几乎必然收敛。
|
|||
|
|
|
|||
|
|
### 五、重要极限公式
|
|||
|
|
|
|||
|
|
| 极限 | 推导依据 |
|
|||
|
|
|------|---------|
|
|||
|
|
| $\frac{1}{n}\sum X_i \xrightarrow{P} E(X_i)$ | 辛钦 LLN |
|
|||
|
|
| $\frac{1}{n}\sum X_i^2 \xrightarrow{P} E(X^2)$ | 辛钦 LLN($X_i^2$ 仍 i.i.d.)|
|
|||
|
|
| $\frac{1}{n}\sum f(X_i) \xrightarrow{P} E[f(X)]$ | 辛钦 LLN 推广($f$ 连续)|
|
|||
|
|
|
|||
|
|
## 常见陷阱
|
|||
|
|
|
|||
|
|
- **陷阱 1**:辛钦 LLN 要求**独立同分布**(i.i.d.),漏掉任何一项都不能用
|
|||
|
|
- **陷阱 2**:题目"独立但不同分布"时,辛钦 LLN 不可用,需用切比雪夫 LLN(验证方差一致有界)
|
|||
|
|
- **陷阱 3**:辛钦 LLN 要求 $E(X_i)$ 存在;柯西分布无期望,不能用
|
|||
|
|
- **陷阱 4**:把"依概率收敛"等同于"必然收敛"——后者要求 $P(\lim X_n = X) = 1$
|
|||
|
|
- **陷阱 5**:伯努利 LLN 是辛钦 LLN 的特例($X_i \sim B(1, p)$),但不是所有 0-1 分布都满足伯努利 LLN
|
|||
|
|
- **陷阱 6**:三大 LLN 都要求**方差存在或期望存在**(柯西分布有陷阱)
|
|||
|
|
|
|||
|
|
## 经典母题
|
|||
|
|
|
|||
|
|
> **题目 1**:设 $X_1, X_2, \ldots, X_n, \ldots$ 独立同分布,且 $E(X_i) = \mu$ 存在,$D(X_i) = \sigma^2$。证明 $\bar{X}_n = \frac{1}{n}\sum_{i=1}^n X_i \xrightarrow{P} \mu$。
|
|||
|
|
|
|||
|
|
**解析**:
|
|||
|
|
|
|||
|
|
由切比雪夫不等式,对任意 $\varepsilon > 0$:
|
|||
|
|
$$
|
|||
|
|
P(|\bar{X}_n - \mu| \ge \varepsilon) \le \frac{D(\bar{X}_n)}{\varepsilon^2} = \frac{\sigma^2/n}{\varepsilon^2} = \frac{\sigma^2}{n\varepsilon^2}
|
|||
|
|
$$
|
|||
|
|
|
|||
|
|
由于 $\dfrac{\sigma^2}{n\varepsilon^2} \to 0$($n \to \infty$),所以:
|
|||
|
|
$$
|
|||
|
|
\lim_{n\to\infty} P(|\bar{X}_n - \mu| \ge \varepsilon) = 0
|
|||
|
|
$$
|
|||
|
|
|
|||
|
|
即 $\bar{X}_n \xrightarrow{P} \mu$。
|
|||
|
|
|
|||
|
|
**复盘**:
|
|||
|
|
- 这就是**辛钦 LLN 的标准证法**:用切比雪夫不等式证明
|
|||
|
|
- 证明模板:**$P(|\bar{X}_n - \mu| \ge \varepsilon) \le \dfrac{\sigma^2}{n\varepsilon^2} \to 0$**
|
|||
|
|
- 揭示了**辛钦 LLN 的条件比切比雪夫 LLN 强,但结论等价**(在 i.i.d. 情形)
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
> **题目 2**:设 $X_1, X_2, \ldots$ 独立,$X_i$ 的分布律为 $P(X_i = i) = P(X_i = -i) = 1/2$。问 $\{\bar{X}_n\}$ 是否依概率收敛?
|
|||
|
|
|
|||
|
|
**解析**:
|
|||
|
|
|
|||
|
|
**注意**:$D(X_i) = E(X_i^2) = i^2$,所以 $D(\bar{X}_n) = \frac{1}{n^2}\sum_{i=1}^n i^2 = \frac{(n+1)(2n+1)}{6n^2} \to \frac{1}{3} \ne 0$。
|
|||
|
|
|
|||
|
|
**错误思路**:误用辛钦 LLN(实际不满足方差一致有界)。
|
|||
|
|
|
|||
|
|
**正确答案**:
|
|||
|
|
- 切比雪夫 LLN 要求 $D(X_i) \le C$(一致有界),但 $D(X_i) = i^2 \to \infty$,**不满足**
|
|||
|
|
- 辛钦 LLN 要求独立同分布,但 $X_i$ 分布不同,**不满足**
|
|||
|
|
- **不能直接用任何 LLN**!
|
|||
|
|
|
|||
|
|
**复盘**:
|
|||
|
|
- 这道题揭示了 LLN 条件的**必要性**
|
|||
|
|
- $D(X_i)$ 无界时,$\bar{X}_n$ 不会依概率收敛
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
> **题目 3**:设 $X_i \sim B(1, p)$ 独立同分布,$n_A$ 是 $n$ 次试验中 $A$ 发生次数。证明 $\dfrac{n_A}{n} \xrightarrow{P} p$。
|
|||
|
|
|
|||
|
|
**解析**:
|
|||
|
|
|
|||
|
|
由辛钦 LLN,$X_i$ 独立同分布,$E(X_i) = p$ 存在,所以:
|
|||
|
|
$$
|
|||
|
|
\bar{X}_n = \frac{1}{n}\sum X_i = \frac{n_A}{n} \xrightarrow{P} E(X_i) = p
|
|||
|
|
$$
|
|||
|
|
|
|||
|
|
**复盘**:
|
|||
|
|
- **伯努利 LLN 是辛钦 LLN 的特例**($X_i \sim B(1, p)$ 是 i.i.d.)
|
|||
|
|
- "频率依概率收敛于概率"的严格化
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
> **题目 4**:设 $X_1, X_2, \ldots$ 独立同分布,$E(X_i) = \mu$。问 $\dfrac{1}{n}\sum_{i=1}^n (X_i^2 - E(X_i^2))$ 是否依概率收敛?收敛到几?
|
|||
|
|
|
|||
|
|
**解析**:
|
|||
|
|
|
|||
|
|
$Y_i = X_i^2$ 仍独立同分布(i.i.d. 的函数仍 i.i.d.),且 $E(Y_i) = E(X_i^2)$ 存在。
|
|||
|
|
|
|||
|
|
由辛钦 LLN:
|
|||
|
|
$$
|
|||
|
|
\frac{1}{n}\sum Y_i = \frac{1}{n}\sum X_i^2 \xrightarrow{P} E(Y_i) = E(X_i^2)
|
|||
|
|
$$
|
|||
|
|
|
|||
|
|
所以:
|
|||
|
|
$$
|
|||
|
|
\frac{1}{n}\sum_{i=1}^n (X_i^2 - E(X_i^2)) = \frac{1}{n}\sum X_i^2 - E(X_i^2) \xrightarrow{P} E(X_i^2) - E(X_i^2) = 0
|
|||
|
|
$$
|
|||
|
|
|
|||
|
|
**复盘**:
|
|||
|
|
- 辛钦 LLN 的**重要推论**:$f(X_i)$ 仍 i.i.d.,$E(f)$ 存在时 $\frac{1}{n}\sum f(X_i) \xrightarrow{P} E[f(X)]$
|
|||
|
|
- 矩估计的理论基础:**$\frac{1}{n}\sum X_i^k \xrightarrow{P} E(X^k)$**
|
|||
|
|
- **Ch07 矩估计相合性**的严格证明
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
> **题目 5(综合)**:设 $X_1, \ldots, X_n$ 独立,$X_i$ 分布律为 $P(X_i = k) = 1/2^k$($k = 1, 2, \ldots$)。问 $\bar{X}_n$ 是否依概率收敛?
|
|||
|
|
|
|||
|
|
**解析**:
|
|||
|
|
|
|||
|
|
- $E(X_i) = \sum_{k=1}^\infty k/2^k = 2$(有限)
|
|||
|
|
- 但 $D(X_i)$:先求 $E(X_i^2) = \sum k^2/2^k = 6$(有限)
|
|||
|
|
- 所以 $D(X_i) = 6 - 4 = 2$(一致有界)
|
|||
|
|
|
|||
|
|
由切比雪夫 LLN,$\bar{X}_n \xrightarrow{P} 2$。
|
|||
|
|
|
|||
|
|
**复盘**:
|
|||
|
|
- **关键判断**:$D(X_i)$ 是否一致有界(这里都是 2,有界)
|
|||
|
|
- 满足切比雪夫 LLN 条件:两两不相关(独立时自动成立)+ 方差有界
|
|||
|
|
- 满足辛钦 LLN 条件:i.i.d. + $E(X_i)$ 存在
|
|||
|
|
- 两个定律都可用,结论一致
|
|||
|
|
|
|||
|
|
---
|
|||
|
|
|
|||
|
|
> **口诀速记**:
|
|||
|
|
> - "**i.i.d. + 期望**" → 辛钦 LLN
|
|||
|
|
> - "**0-1 分布**" → 伯努利 LLN(辛钦的特例)
|
|||
|
|
> - "**两两不相关 + 方差有界**" → 切比雪夫 LLN
|
|||
|
|
> - "**$f(X_i)$ 仍 i.i.d.**" → 辛钦 LLN 可用于 $f(X)$
|