重构概率论第6讲为「知识点带题」格式,并修复跨讲死链
- 第6讲数理统计:删旧三件套(01-考点手册 4.8 万字符 / 02-试题 / 03-解析)与 PDF, 改为 01-知识点盘点 + 02—09 八点分册 + 10-速查卡,共 10 文件 26 题 - 八点:总体样本与统计量 / 三大抽样分布 / 正态总体抽样分布 / 矩估计 / 最大似然 / 评价标准 / 区间估计 / 假设检验与两类错误 - 盘点含 §0.1 按分值、§0.2 依赖链、§0.3 符号、§0.4 AUTO 反查、§9 覆盖对照(21 条)、§10 接口 - 修复 2026-10 第3讲重构留下的死链:大题十年考点/15-点14(7 处指向已删 01-考点手册)、 知识点构建/17-背诵版第3讲(回查入口 4 处) - 知识点构建/20-背诵版第6讲:回查入口改指新文件,题源注明旧 18 题清单已失效待重出 - 同步:总览.md 第6讲目录树、知识点构建 README 题量 18 → 26
This commit is contained in:
@@ -0,0 +1,225 @@
|
||||
---
|
||||
tags: [数学一, 在学练习, 概率论, 数理统计, 无偏性, 有效性, 相合性, 均方误差]
|
||||
专题: 概率论 第6讲 · 点6 估计量的评价标准
|
||||
日期: 2026-11-07
|
||||
状态: 知识点带题(6.1 无偏、6.2 有效、6.3 相合、6.4 均方误差,共 4 题)
|
||||
关联笔记: ["[[README]]", "[[01-知识点盘点]]"]
|
||||
---
|
||||
|
||||
# 点 6 估计量的评价标准
|
||||
|
||||
> **2021·9(5 分)、2023·10(5 分)、2024·22(12 分)、2016·23(11 分)—— 约 33 分**|重要度 ★★★
|
||||
> 依赖:点 1 的三个基本期望、点 5 的 MLE、第 5 讲上的依概率收敛。盘点对应:§6 全节。
|
||||
|
||||
**组织原则**:四个标准是四条独立的判据,**必须分开记**:无偏看期望、有效看方差、相合看极限、均方误差看"期望 + 方差"的合成。四题各打一个标准,第 4 题(2024·22 骨架)把无偏与均方误差放在一起对照,**结论是"有偏的估计有时更好"**,这是本点最有价值的一条。难度标准:★★☆ 三题、★★★ 一题。
|
||||
|
||||
## 知识点 6.1 无偏性(出处:[知识章 §3.3](../../../../参考仓库/Math/probability-theory-and-mathematical-statistics/knowledge/5-mathematical-statistics/mathematical-statistics.tex))
|
||||
|
||||
$$E\hat\theta=\theta\quad(\text{对一切}\ \theta).$$
|
||||
|
||||
**三条常用**:$E\bar X=\mu$ ;$ES^2=\sigma^2$ ;$E S_n^2=\dfrac{n-1}{n}\sigma^2$ (有偏)。
|
||||
|
||||
> **"无偏"是估计量的性质,不是估计值的性质**。一次抽样的 $\hat\theta$ 与 $\theta$ 差多少,与无偏无关;无偏说的是"**反复抽样时平均等于真值**"。
|
||||
|
||||
## 知识点 6.2 有效性(出处:[知识章 §3.3](../../../../参考仓库/Math/probability-theory-and-mathematical-statistics/knowledge/5-mathematical-statistics/mathematical-statistics.tex))
|
||||
|
||||
在两个**都无偏**的估计量之间比较方差,**方差小的更有效**:
|
||||
|
||||
$$\frac{D\hat\theta_1}{D\hat\theta_2}<1\ \Longrightarrow\ \hat\theta_1\ \text{比}\ \hat\theta_2\ \text{有效}.$$
|
||||
|
||||
**一条重要限制**:有效性只在"同属无偏"的集合里比。一个无偏但方差大、一个有偏但方差极小,谁更好要用点 6.4 的均方误差来判。
|
||||
|
||||
## 知识点 6.3 相合性(一致性)(出处:[知识章 §3.3](../../../../参考仓库/Math/probability-theory-and-mathematical-statistics/knowledge/5-mathematical-statistics/mathematical-statistics.tex))
|
||||
|
||||
$$\hat\theta_n\overset{P}{\longrightarrow}\theta\quad(n\to\infty).$$
|
||||
|
||||
**判据(切比雪夫路线,考场上唯一要写的)**:若
|
||||
|
||||
$$E\hat\theta_n\to\theta\quad\text{且}\quad D\hat\theta_n\to0,$$
|
||||
|
||||
则 $\hat\theta_n$ 相合。因为 $P\{\lvert\hat\theta_n-\theta\rvert\ge\varepsilon\}\le\dfrac{E(\hat\theta_n-\theta)^2}{\varepsilon^2}=\dfrac{D\hat\theta_n+\text{偏差}^2}{\varepsilon^2}\to0$ 。
|
||||
|
||||
> **相合与无偏互不蕴含**:$\bar X+\frac1n$ 有偏但相合;$X_1$ 无偏($EX_1=\mu$ )但不相合(方差恒为 $\sigma^2$ 不趋于 $0$ )。**大样本性质看相合,小样本性质看无偏。**
|
||||
|
||||
## 知识点 6.4 均方误差(出处:参考仓库未单列,2024·22 引入)
|
||||
|
||||
$$MSE(\hat\theta)=E(\hat\theta-\theta)^2=D\hat\theta+\left(E\hat\theta-\theta\right)^2 .$$
|
||||
|
||||
读法:**总误差 = 波动 $+$ 偏差的平方**。无偏时第二项为 $0$ ,$MSE$ 退化为方差。
|
||||
|
||||
**它允许"有偏换低方差"**:只要偏差的平方小于省下的方差,有偏估计的 $MSE$ 反而更小——这就是第 4 题的结论。
|
||||
|
||||
---
|
||||
|
||||
## 题目(按知识点顺序对应)
|
||||
|
||||
### 题 1 · 6.1:无偏性反解系数(★★☆)
|
||||
|
||||
> 设 $X_1,X_2$ 是来自 $N(\mu,\sigma^2)$ 的简单随机样本,$\sigma>0$ 未知。记 $\hat\sigma=a\lvert X_1-X_2\rvert$ 。
|
||||
>
|
||||
> (Ⅰ)求使 $\hat\sigma$ 为 $\sigma$ 的无偏估计的常数 $a$ ;
|
||||
> (Ⅱ)$S^2$ 是 $\sigma^2$ 的无偏估计,那么 $\sqrt{S^2}=S$ 是否为 $\sigma$ 的无偏估计?
|
||||
> (Ⅲ)由(Ⅱ)说明"无偏性不能穿过非线性函数"。
|
||||
|
||||
**怎么想**:(Ⅰ)关键是 $X_1-X_2\sim N(0,2\sigma^2)$ ,再用半正态的期望 $E\lvert Z\rvert=\sigma_Z\sqrt{2/\pi}$ 。(Ⅱ)用凹凸性:开根号是凹函数,$E\sqrt{\cdot}<\sqrt{E\cdot}$ 。
|
||||
|
||||
**解**:
|
||||
|
||||
**(Ⅰ)** $X_1-X_2\sim N(0,\ 2\sigma^2)$ ,记 $Z=\dfrac{X_1-X_2}{\sqrt2\sigma}\sim N(0,1)$ ,则
|
||||
|
||||
$$\lvert X_1-X_2\rvert=\sqrt2\,\sigma\lvert Z\rvert,\qquad E\lvert Z\rvert=\sqrt{\frac{2}{\pi}} .$$
|
||||
|
||||
故
|
||||
|
||||
$$E\lvert X_1-X_2\rvert=\sqrt2\,\sigma\cdot\sqrt{\frac{2}{\pi}}=\frac{2\sigma}{\sqrt\pi} .$$
|
||||
|
||||
要使 $E(a\lvert X_1-X_2\rvert)=\sigma$ ,需
|
||||
|
||||
$$a\cdot\frac{2\sigma}{\sqrt\pi}=\sigma\quad\Longrightarrow\quad a=\frac{\sqrt\pi}{2}\approx0.886 .$$
|
||||
|
||||
**(Ⅱ)** **不是无偏的**。由柯西–施瓦茨(或 $g(x)=\sqrt x$ 为凹函数、琴生不等式),
|
||||
|
||||
$$E S=E\sqrt{S^2}<\sqrt{ES^2}=\sqrt{\sigma^2}=\sigma .$$
|
||||
|
||||
所以 $S$ 系统性**偏小**($n$ 大时偏差趋于 $0$ ,但永远小于 $\sigma$ )。
|
||||
|
||||
**(Ⅲ)** 因为 $E\left[g(\hat\theta)\right]\ne g\left(E\hat\theta\right)$ 除非 $g$ 是线性的。所以:
|
||||
|
||||
> **$\hat\theta$ 无偏 $\nRightarrow g(\hat\theta)$ 无偏**。但反过来,**若 $\hat\theta$ 是 $\theta$ 的 MLE,则 $g(\hat\theta)$ 是 $g(\theta)$ 的 MLE**(不变性)——**"无偏"不传递,"最大似然"传递**,这两个性质必须分清。
|
||||
|
||||
**验算**:取 $n=2$ 校验(Ⅰ)的常数合理性:$\lvert X_1-X_2\rvert$ 的平均大约 $0.886\sigma$ ,与 $\sqrt\pi/2$ 的系数吻合($\frac{1}{0.886}=1.128=\frac{2}{\sqrt\pi}$ ✓)。
|
||||
|
||||
**带走结论**:**看到 $\lvert X_1-X_2\rvert$ 就要想到半正态的一阶矩** $E\lvert Z\rvert=\sqrt{2/\pi}$ ——这是 2023·10 的整套解题链。另外牢记两条:**"无偏"不穿过非线性函数,"MLE + 不变性"可以穿过**。
|
||||
|
||||
> **关联** · 盘点 [§6.1 无偏性](01-知识点盘点.md#user-content-61-无偏性) | 上游 — | 下游 — | 速查 [六 评价标准四条](10-速查卡.md#user-content-六-评价标准四条)
|
||||
|
||||
---
|
||||
|
||||
### 题 2 · 6.2:三个均值型估计谁更有效(★★☆)
|
||||
|
||||
> 设 $X_1,X_2,X_3$ 是来自总体 $(\mu,\sigma^2)$ 的简单随机样本。考虑 $\mu$ 的三个估计量:
|
||||
>
|
||||
> $$\hat\mu_1=\frac13(X_1+X_2+X_3),\quad \hat\mu_2=\frac12(X_1+X_2),\quad \hat\mu_3=\frac14X_1+\frac14X_2+\frac12X_3 .$$
|
||||
>
|
||||
> (Ⅰ)验证三者都无偏;
|
||||
> (Ⅱ)比较有效性,指出最有效的一个;
|
||||
> (Ⅲ)在"系数非负且和为 $1$ "的约束下,最有效的估计量是什么?
|
||||
|
||||
**怎么想**:$\hat\mu=\sum a_iX_i$ 无偏 $\iff$ 系数和为 $1$ ;方差是 $\left(\sum a_i^2\right)\sigma^2$ 。所以问题变成"**平方和最小**"。
|
||||
|
||||
**解**:
|
||||
|
||||
**(Ⅰ)** 三组系数和都是 $1$ :
|
||||
|
||||
$$\frac13+\frac13+\frac13=1,\qquad \frac12+\frac12=1,\qquad \frac14+\frac14+\frac12=1 .$$
|
||||
|
||||
故 $E\hat\mu_k=\mu$ ,三者都无偏。
|
||||
|
||||
**(Ⅱ)** 用 $D\left(\sum a_iX_i\right)=\left(\sum a_i^2\right)\sigma^2$ :
|
||||
|
||||
$$D\hat\mu_1=3\times\frac{1}{9}\sigma^2=\frac{\sigma^2}{3};\qquad D\hat\mu_2=2\times\frac14\sigma^2=\frac{\sigma^2}{2};\qquad D\hat\mu_3=\left(\frac1{16}+\frac1{16}+\frac14\right)\sigma^2=\frac{3}{8}\sigma^2 .$$
|
||||
|
||||
比较:$\dfrac13<\dfrac38<\dfrac12$ ,故
|
||||
|
||||
$$D\hat\mu_1<D\hat\mu_3<D\hat\mu_2,\qquad \hat\mu_1\ \text{最有效}.$$
|
||||
|
||||
**(Ⅲ)** 在 $\sum a_i=1$ 、$a_i\ge0$ 下最小化 $\sum a_i^2$ ,由柯西–施瓦茨
|
||||
|
||||
$$\left(\sum a_i\right)^2\le3\sum a_i^2\ \Longrightarrow\ \sum a_i^2\ge\frac13,$$
|
||||
|
||||
等号在 $a_1=a_2=a_3=\dfrac13$ 处成立。所以**最有效的是等权的样本均值** $\bar X$ 。
|
||||
|
||||
**验算**:$\hat\mu_3$ 的系数 $(0.25,0.25,0.5)$ 明显"厚此薄彼"(给 $X_3$ 双倍权重),方差自然更大:$\sum a_i^2=0.375>0.333$ ✓。直观上"权重越平均,方差越小"。
|
||||
|
||||
**带走结论**:**均值型估计量的比较只看"系数的平方和"** ,系数和为 $1$ 保证无偏,平方和越小越有效。**等权最优**这一结论可以推广到 $n$ 个样本:$\sum a_i^2\ge\frac1n$ ,等号在 $a_i=\frac1n$ 时成立。
|
||||
|
||||
> **关联** · 盘点 [§6.2 有效性](01-知识点盘点.md#user-content-62-有效性) | 上游 — | 下游 — | 速查 [六 评价标准四条](10-速查卡.md#user-content-六-评价标准四条)
|
||||
|
||||
---
|
||||
|
||||
### 题 3 · 6.3:相合性的证明与反例(★★☆)
|
||||
|
||||
> (Ⅰ)设 $\hat\theta_n$ 是 $\theta$ 的估计量,满足 $E\hat\theta_n\to\theta$ 且 $D\hat\theta_n\to0$ 。证明 $\hat\theta_n\overset{P}{\longrightarrow}\theta$ 。
|
||||
>
|
||||
> (Ⅱ)据此说明 $\bar X$ 是 $\mu$ 的相合估计。
|
||||
>
|
||||
> (Ⅲ)判断:"$\hat\theta_n$ 相合"与"$\hat\theta_n$ 无偏"是否互相蕴含?各举一例。
|
||||
|
||||
**怎么想**:(Ⅰ)唯一工具是切比雪夫不等式(或马尔可夫不等式),作用在 $\lvert\hat\theta_n-\theta\rvert$ 上。(Ⅲ)要举两个反例,一个"有偏但相合",一个"无偏但不合"。
|
||||
|
||||
**解**:
|
||||
|
||||
**(Ⅰ)** 任给 $\varepsilon>0$ ,对随机变量 $\hat\theta_n$ 用马尔可夫不等式($EY\ge\varepsilon P\{Y\ge\varepsilon\}$ ,取 $Y=(\hat\theta_n-\theta)^2$ ):
|
||||
|
||||
$$P\left\{\lvert\hat\theta_n-\theta\rvert\ge\varepsilon\right\}=P\left\{(\hat\theta_n-\theta)^2\ge\varepsilon^2\right\}\le\frac{E(\hat\theta_n-\theta)^2}{\varepsilon^2}=\frac{D\hat\theta_n+\left(E\hat\theta_n-\theta\right)^2}{\varepsilon^2}.$$
|
||||
|
||||
由条件,分子两项都趋于 $0$ ,故右端趋于 $0$ ,即 $\hat\theta_n\overset{P}{\longrightarrow}\theta$ 。$\blacksquare$
|
||||
|
||||
**(Ⅱ)** $\bar X$ 满足 $E\bar X=\mu$ (偏差为 $0$ )与 $D\bar X=\dfrac{\sigma^2}{n}\to0$ ,由(Ⅰ)立即得 $\bar X\overset{P}{\longrightarrow}\mu$ 。(这与第 5 讲上"辛钦大数定律"的结论一致,但用的是更强的条件——要求方差存在。)
|
||||
|
||||
**(Ⅲ)** **不互相蕴含**。
|
||||
|
||||
- **有偏但相合**:$\hat\theta_n=\bar X+\dfrac1n$ 。$E\hat\theta_n=\mu+\dfrac1n\ne\mu$ (有偏),但偏差 $\frac1n\to0$ 、方差 $\frac{\sigma^2}{n}\to0$ ,故相合。
|
||||
- **无偏但不合**:$\hat\theta_n=X_1$ (永远只用第一个样本)。$EX_1=\mu$ (无偏),但 $D X_1=\sigma^2$ 不趋于 $0$ ,故不相合。
|
||||
|
||||
**验算**:第二个例子里 $P\{\lvert X_1-\mu\rvert\ge\varepsilon\}$ 是**固定的正数**(与 $n$ 无关),永远不趋于 $0$ ✓。
|
||||
|
||||
**带走结论**:**相合性的判据就是"偏差 $\to0$ 且方差 $\to0$ "两句话**,缺一不可。写解答题时把这两句摆出来,比背定律名字得分稳。**无偏管小样本、相合管大样本**——两者是不同维度,不能互相替代。
|
||||
|
||||
> **关联** · 盘点 [§6.3 相合性(一致性)](01-知识点盘点.md#user-content-63-相合性一致性) | 上游 — | 下游 — | 速查 [六 评价标准四条](10-速查卡.md#user-content-六-评价标准四条)
|
||||
|
||||
---
|
||||
|
||||
### 题 4 · 6.4:无偏不一定最好(★★★)
|
||||
|
||||
> 设 $X_1,\dots,X_n$ 来自 $U(0,\theta)$ ,$X_{(n)}=\max\{X_i\}$ ,考虑 $T_c=cX_{(n)}$ ($c>0$ )。已知
|
||||
>
|
||||
> $$EX_{(n)}=\frac{n}{n+1}\theta,\qquad EX_{(n)}^{2}=\frac{n}{n+2}\theta^{2}.$$
|
||||
>
|
||||
> (Ⅰ)求使 $T_c$ 无偏的 $c$ ;
|
||||
> (Ⅱ)求 $MSE(T_c)$ 关于 $c$ 的表达式,并求使 $MSE$ 最小的 $c$ ;
|
||||
> (Ⅲ)比较两者的 $MSE$ ,说明"无偏"为什么不是唯一标准。
|
||||
|
||||
**怎么想**:(Ⅱ)把 $E(T_c-\theta)^2$ 展开成三项,它对 $c$ 是**二次函数**,配方即得最优 $c$ 。(Ⅲ)直接比两个值的大小。
|
||||
|
||||
**解**:
|
||||
|
||||
**(Ⅰ)**
|
||||
|
||||
$$E T_c=c\cdot\frac{n}{n+1}\theta=\theta\quad\Longrightarrow\quad c_1=\frac{n+1}{n}.$$
|
||||
|
||||
**(Ⅱ)** 展开:
|
||||
|
||||
$$MSE(T_c)=E\left(cX_{(n)}-\theta\right)^2=c^2EX_{(n)}^2-2c\theta EX_{(n)}+\theta^2$$
|
||||
|
||||
$$=\theta^2\left[c^2\frac{n}{n+2}-2c\frac{n}{n+1}+1\right].$$
|
||||
|
||||
这是关于 $c$ 的二次函数,开口向上,顶点在
|
||||
|
||||
$$c^{*}=\frac{\dfrac{n}{n+1}}{\dfrac{n}{n+2}}=\frac{n+2}{n+1}.$$
|
||||
|
||||
代入得最小值:
|
||||
|
||||
$$MSE_{\min}=\theta^2\left[\frac{(n+2)^2}{(n+1)^2}\cdot\frac{n}{n+2}-\frac{2(n+2)}{n+1}\cdot\frac{n}{n+1}+1\right]=\theta^2\left[1-\frac{n(n+2)}{(n+1)^2}\right]=\frac{\theta^{2}}{(n+1)^{2}} .$$
|
||||
|
||||
**(Ⅲ)** 无偏时的 $MSE$ 就是方差:
|
||||
|
||||
$$MSE(T_{c_1})=DT_{c_1}=\left(\frac{n+1}{n}\right)^{2}\cdot\frac{n\theta^{2}}{(n+1)^{2}(n+2)}=\frac{\theta^{2}}{n(n+2)} .$$
|
||||
|
||||
比较:
|
||||
|
||||
$$\frac{\theta^2}{(n+1)^2}\ \ \text{vs}\ \ \frac{\theta^2}{n(n+2)},\qquad (n+1)^2=n^2+2n+1>n^2+2n=n(n+2),$$
|
||||
|
||||
故
|
||||
|
||||
$$\frac{\theta^2}{(n+1)^2}<\frac{\theta^2}{n(n+2)}\quad\Longrightarrow\quad MSE_{\min}<MSE(T_{c_1}).$$
|
||||
|
||||
**有偏的 $c^{*}=\frac{n+2}{n+1}$ 反而更好**。(数值感:$n=5$ 时 $MSE_{\min}=\frac{\theta^2}{36}$ ,无偏的 $MSE=\frac{\theta^2}{35}$ 。)
|
||||
|
||||
**验算**:$n=1$ 时 $c_1=2$ 、$c^{*}=\frac32$ 。$T_2=2X_1$ ,$DT_2=4\cdot\frac{\theta^2}{12}=\frac{\theta^2}{3}$ ;$T_{1.5}$ 的 $MSE=\theta^2\left[1.5^2\cdot\frac13-2\cdot1.5\cdot\frac12+1\right]=\theta^2\left[0.75-1.5+1\right]=0.25\theta^2=\frac{\theta^2}{4}$ 。而 $\frac{\theta^2}{(1+1)^2}=\frac{\theta^2}{4}$ ✓,且 $\frac{\theta^2}{4}<\frac{\theta^2}{3}$ ✓。
|
||||
|
||||
**带走结论**:**$MSE$ 是"偏差 + 方差"的总账,允许用一点偏差换大幅降方差**。这条在 2024·22 的最后一问直接考。写答案时要明确:**"无偏"是约束,"$MSE$ 最小"是目标**——约束可以放松,目标不能换。
|
||||
|
||||
> **关联** · 盘点 [§6.4 均方误差](01-知识点盘点.md#user-content-64-均方误差) | 上游 — | 下游 — | 速查 [六 评价标准四条](10-速查卡.md#user-content-六-评价标准四条)
|
||||
|
||||
---
|
||||
Reference in New Issue
Block a user