Files
MathNotesVersion2/基于考研的学习/数学一/在学练习/概率论-第6讲-数理统计/07-点6-估计量的评价标准.md
T
Yimu 4e4009de30 重构概率论第6讲为「知识点带题」格式,并修复跨讲死链
- 第6讲数理统计:删旧三件套(01-考点手册 4.8 万字符 / 02-试题 / 03-解析)与 PDF,
  改为 01-知识点盘点 + 02—09 八点分册 + 10-速查卡,共 10 文件 26 题
- 八点:总体样本与统计量 / 三大抽样分布 / 正态总体抽样分布 / 矩估计 /
  最大似然 / 评价标准 / 区间估计 / 假设检验与两类错误
- 盘点含 §0.1 按分值、§0.2 依赖链、§0.3 符号、§0.4 AUTO 反查、§9 覆盖对照(21 条)、§10 接口
- 修复 2026-10 第3讲重构留下的死链:大题十年考点/15-点14(7 处指向已删 01-考点手册)、
  知识点构建/17-背诵版第3讲(回查入口 4 处)
- 知识点构建/20-背诵版第6讲:回查入口改指新文件,题源注明旧 18 题清单已失效待重出
- 同步:总览.md 第6讲目录树、知识点构建 README 题量 18 → 26
2026-11-07 13:02:26 +08:00

13 KiB
Raw Blame History

tags, 专题, 日期, 状态, 关联笔记
tags 专题 日期 状态 关联笔记
数学一
在学练习
概率论
数理统计
无偏性
有效性
相合性
均方误差
概率论 第6讲 · 点6 估计量的评价标准 2026-11-07 知识点带题(6.1 无偏、6.2 有效、6.3 相合、6.4 均方误差,共 4 题)
README
01-知识点盘点

点 6 估计量的评价标准

2021·9(5 分)、2023·10(5 分)、2024·22(12 分)、2016·23(11 分)—— 约 33 分|重要度 ★★★ 依赖:点 1 的三个基本期望、点 5 的 MLE、第 5 讲上的依概率收敛。盘点对应:§6 全节。

组织原则:四个标准是四条独立的判据,必须分开记:无偏看期望、有效看方差、相合看极限、均方误差看"期望 + 方差"的合成。四题各打一个标准,第 4 题(2024·22 骨架)把无偏与均方误差放在一起对照,结论是"有偏的估计有时更好",这是本点最有价值的一条。难度标准:★★☆ 三题、★★★ 一题。

知识点 6.1 无偏性(出处:知识章 §3.3)

E\hat\theta=\theta\quad(\text{对一切}\ \theta).

三条常用:E\bar X=\mu ;ES^2=\sigma^2 ;E S_n^2=\dfrac{n-1}{n}\sigma^2 (有偏)。

"无偏"是估计量的性质,不是估计值的性质。一次抽样的 \hat\theta 与 \theta 差多少,与无偏无关;无偏说的是"反复抽样时平均等于真值"。

知识点 6.2 有效性(出处:知识章 §3.3)

在两个都无偏的估计量之间比较方差,方差小的更有效:

\frac{D\hat\theta_1}{D\hat\theta_2}<1\ \Longrightarrow\ \hat\theta_1\ \text{比}\ \hat\theta_2\ \text{有效}.

一条重要限制:有效性只在"同属无偏"的集合里比。一个无偏但方差大、一个有偏但方差极小,谁更好要用点 6.4 的均方误差来判。

知识点 6.3 相合性(一致性)(出处:知识章 §3.3)

\hat\theta_n\overset{P}{\longrightarrow}\theta\quad(n\to\infty).

判据(切比雪夫路线,考场上唯一要写的):若

E\hat\theta_n\to\theta\quad\text{且}\quad D\hat\theta_n\to0,

则 \hat\theta_n 相合。因为 P\{\lvert\hat\theta_n-\theta\rvert\ge\varepsilon\}\le\dfrac{E(\hat\theta_n-\theta)^2}{\varepsilon^2}=\dfrac{D\hat\theta_n+\text{偏差}^2}{\varepsilon^2}\to0 。

相合与无偏互不蕴含:\bar X+\frac1n 有偏但相合;X_1 无偏(EX_1=\mu )但不相合(方差恒为 \sigma^2 不趋于 0 )。大样本性质看相合,小样本性质看无偏。

知识点 6.4 均方误差(出处:参考仓库未单列,2024·22 引入)

MSE(\hat\theta)=E(\hat\theta-\theta)^2=D\hat\theta+\left(E\hat\theta-\theta\right)^2 .

读法:总误差 = 波动 + 偏差的平方。无偏时第二项为 0 ,MSE 退化为方差。

它允许"有偏换低方差":只要偏差的平方小于省下的方差,有偏估计的 MSE 反而更小——这就是第 4 题的结论。


题目(按知识点顺序对应)

题 1 · 6.1:无偏性反解系数(★★☆)

设 X_1,X_2 是来自 N(\mu,\sigma^2) 的简单随机样本,\sigma>0 未知。记 \hat\sigma=a\lvert X_1-X_2\rvert 。

(Ⅰ)求使 \hat\sigma 为 \sigma 的无偏估计的常数 a ; (Ⅱ)S^2 是 \sigma^2 的无偏估计,那么 \sqrt{S^2}=S 是否为 \sigma 的无偏估计? (Ⅲ)由(Ⅱ)说明"无偏性不能穿过非线性函数"。

怎么想:(Ⅰ)关键是 X_1-X_2\sim N(0,2\sigma^2) ,再用半正态的期望 E\lvert Z\rvert=\sigma_Z\sqrt{2/\pi} 。(Ⅱ)用凹凸性:开根号是凹函数,E\sqrt{\cdot}<\sqrt{E\cdot} 。

解:

(Ⅰ) X_1-X_2\sim N(0,\ 2\sigma^2) ,记 Z=\dfrac{X_1-X_2}{\sqrt2\sigma}\sim N(0,1) ,则

\lvert X_1-X_2\rvert=\sqrt2\,\sigma\lvert Z\rvert,\qquad E\lvert Z\rvert=\sqrt{\frac{2}{\pi}} .

故

E\lvert X_1-X_2\rvert=\sqrt2\,\sigma\cdot\sqrt{\frac{2}{\pi}}=\frac{2\sigma}{\sqrt\pi} .

要使 E(a\lvert X_1-X_2\rvert)=\sigma ,需

a\cdot\frac{2\sigma}{\sqrt\pi}=\sigma\quad\Longrightarrow\quad a=\frac{\sqrt\pi}{2}\approx0.886 .

(Ⅱ) 不是无偏的。由柯西–施瓦茨(或 g(x)=\sqrt x 为凹函数、琴生不等式),

E S=E\sqrt{S^2}<\sqrt{ES^2}=\sqrt{\sigma^2}=\sigma .

所以 S 系统性偏小(n 大时偏差趋于 0 ,但永远小于 \sigma )。

(Ⅲ) 因为 E\left[g(\hat\theta)\right]\ne g\left(E\hat\theta\right) 除非 g 是线性的。所以:

\hat\theta 无偏 \nRightarrow g(\hat\theta) 无偏。但反过来,若 \hat\theta 是 \theta 的 MLE,则 g(\hat\theta) 是 g(\theta) 的 MLE(不变性)——"无偏"不传递,"最大似然"传递,这两个性质必须分清。

验算:取 n=2 校验(Ⅰ)的常数合理性:\lvert X_1-X_2\rvert 的平均大约 0.886\sigma ,与 \sqrt\pi/2 的系数吻合(\frac{1}{0.886}=1.128=\frac{2}{\sqrt\pi} ✓)。

带走结论:看到 \lvert X_1-X_2\rvert 就要想到半正态的一阶矩 E\lvert Z\rvert=\sqrt{2/\pi} ——这是 2023·10 的整套解题链。另外牢记两条:"无偏"不穿过非线性函数,"MLE + 不变性"可以穿过。

关联 · 盘点 §6.1 无偏性 | 上游 — | 下游 — | 速查 六 评价标准四条


题 2 · 6.2:三个均值型估计谁更有效(★★☆)

设 X_1,X_2,X_3 是来自总体 (\mu,\sigma^2) 的简单随机样本。考虑 \mu 的三个估计量:

\hat\mu_1=\frac13(X_1+X_2+X_3),\quad \hat\mu_2=\frac12(X_1+X_2),\quad \hat\mu_3=\frac14X_1+\frac14X_2+\frac12X_3 .

(Ⅰ)验证三者都无偏; (Ⅱ)比较有效性,指出最有效的一个; (Ⅲ)在"系数非负且和为 1 "的约束下,最有效的估计量是什么?

怎么想:\hat\mu=\sum a_iX_i 无偏 \iff 系数和为 1 ;方差是 \left(\sum a_i^2\right)\sigma^2 。所以问题变成"平方和最小"。

解:

(Ⅰ) 三组系数和都是 1 :

\frac13+\frac13+\frac13=1,\qquad \frac12+\frac12=1,\qquad \frac14+\frac14+\frac12=1 .

故 E\hat\mu_k=\mu ,三者都无偏。

(Ⅱ) 用 D\left(\sum a_iX_i\right)=\left(\sum a_i^2\right)\sigma^2 :

D\hat\mu_1=3\times\frac{1}{9}\sigma^2=\frac{\sigma^2}{3};\qquad D\hat\mu_2=2\times\frac14\sigma^2=\frac{\sigma^2}{2};\qquad D\hat\mu_3=\left(\frac1{16}+\frac1{16}+\frac14\right)\sigma^2=\frac{3}{8}\sigma^2 .

比较:\dfrac13<\dfrac38<\dfrac12 ,故

D\hat\mu_1<D\hat\mu_3<D\hat\mu_2,\qquad \hat\mu_1\ \text{最有效}.

(Ⅲ) 在 \sum a_i=1 、a_i\ge0 下最小化 \sum a_i^2 ,由柯西–施瓦茨

\left(\sum a_i\right)^2\le3\sum a_i^2\ \Longrightarrow\ \sum a_i^2\ge\frac13,

等号在 a_1=a_2=a_3=\dfrac13 处成立。所以最有效的是等权的样本均值 \bar X 。

验算:\hat\mu_3 的系数 (0.25,0.25,0.5) 明显"厚此薄彼"(给 X_3 双倍权重),方差自然更大:\sum a_i^2=0.375>0.333 ✓。直观上"权重越平均,方差越小"。

带走结论:均值型估计量的比较只看"系数的平方和" ,系数和为 1 保证无偏,平方和越小越有效。等权最优这一结论可以推广到 n 个样本:\sum a_i^2\ge\frac1n ,等号在 a_i=\frac1n 时成立。

关联 · 盘点 §6.2 有效性 | 上游 — | 下游 — | 速查 六 评价标准四条


题 3 · 6.3:相合性的证明与反例(★★☆)

(Ⅰ)设 \hat\theta_n 是 \theta 的估计量,满足 E\hat\theta_n\to\theta 且 D\hat\theta_n\to0 。证明 \hat\theta_n\overset{P}{\longrightarrow}\theta 。

(Ⅱ)据此说明 \bar X 是 \mu 的相合估计。

(Ⅲ)判断:"\hat\theta_n 相合"与"\hat\theta_n 无偏"是否互相蕴含?各举一例。

怎么想:(Ⅰ)唯一工具是切比雪夫不等式(或马尔可夫不等式),作用在 \lvert\hat\theta_n-\theta\rvert 上。(Ⅲ)要举两个反例,一个"有偏但相合",一个"无偏但不合"。

解:

(Ⅰ) 任给 \varepsilon>0 ,对随机变量 \hat\theta_n 用马尔可夫不等式(EY\ge\varepsilon P\{Y\ge\varepsilon\} ,取 Y=(\hat\theta_n-\theta)^2 ):

P\left\{\lvert\hat\theta_n-\theta\rvert\ge\varepsilon\right\}=P\left\{(\hat\theta_n-\theta)^2\ge\varepsilon^2\right\}\le\frac{E(\hat\theta_n-\theta)^2}{\varepsilon^2}=\frac{D\hat\theta_n+\left(E\hat\theta_n-\theta\right)^2}{\varepsilon^2}.

由条件,分子两项都趋于 0 ,故右端趋于 0 ,即 \hat\theta_n\overset{P}{\longrightarrow}\theta 。\blacksquare

(Ⅱ) \bar X 满足 E\bar X=\mu (偏差为 0 )与 D\bar X=\dfrac{\sigma^2}{n}\to0 ,由(Ⅰ)立即得 \bar X\overset{P}{\longrightarrow}\mu 。(这与第 5 讲上"辛钦大数定律"的结论一致,但用的是更强的条件——要求方差存在。)

(Ⅲ) 不互相蕴含。

  • 有偏但相合:\hat\theta_n=\bar X+\dfrac1n 。E\hat\theta_n=\mu+\dfrac1n\ne\mu (有偏),但偏差 \frac1n\to0 、方差 \frac{\sigma^2}{n}\to0 ,故相合。
  • 无偏但不合:\hat\theta_n=X_1 (永远只用第一个样本)。EX_1=\mu (无偏),但 D X_1=\sigma^2 不趋于 0 ,故不相合。

验算:第二个例子里 P\{\lvert X_1-\mu\rvert\ge\varepsilon\} 是固定的正数(与 n 无关),永远不趋于 0 ✓。

带走结论:相合性的判据就是"偏差 \to0 且方差 \to0 "两句话,缺一不可。写解答题时把这两句摆出来,比背定律名字得分稳。无偏管小样本、相合管大样本——两者是不同维度,不能互相替代。

关联 · 盘点 §6.3 相合性(一致性) | 上游 — | 下游 — | 速查 六 评价标准四条


题 4 · 6.4:无偏不一定最好(★★★)

设 X_1,\dots,X_n 来自 U(0,\theta) ,X_{(n)}=\max\{X_i\} ,考虑 T_c=cX_{(n)} (c>0 )。已知

EX_{(n)}=\frac{n}{n+1}\theta,\qquad EX_{(n)}^{2}=\frac{n}{n+2}\theta^{2}.

(Ⅰ)求使 T_c 无偏的 c ; (Ⅱ)求 MSE(T_c) 关于 c 的表达式,并求使 MSE 最小的 c ; (Ⅲ)比较两者的 MSE ,说明"无偏"为什么不是唯一标准。

怎么想:(Ⅱ)把 E(T_c-\theta)^2 展开成三项,它对 c 是二次函数,配方即得最优 c 。(Ⅲ)直接比两个值的大小。

解:

(Ⅰ)

E T_c=c\cdot\frac{n}{n+1}\theta=\theta\quad\Longrightarrow\quad c_1=\frac{n+1}{n}.

(Ⅱ) 展开:

MSE(T_c)=E\left(cX_{(n)}-\theta\right)^2=c^2EX_{(n)}^2-2c\theta EX_{(n)}+\theta^2 =\theta^2\left[c^2\frac{n}{n+2}-2c\frac{n}{n+1}+1\right].

这是关于 c 的二次函数,开口向上,顶点在

c^{*}=\frac{\dfrac{n}{n+1}}{\dfrac{n}{n+2}}=\frac{n+2}{n+1}.

代入得最小值:

MSE_{\min}=\theta^2\left[\frac{(n+2)^2}{(n+1)^2}\cdot\frac{n}{n+2}-\frac{2(n+2)}{n+1}\cdot\frac{n}{n+1}+1\right]=\theta^2\left[1-\frac{n(n+2)}{(n+1)^2}\right]=\frac{\theta^{2}}{(n+1)^{2}} .

(Ⅲ) 无偏时的 MSE 就是方差:

MSE(T_{c_1})=DT_{c_1}=\left(\frac{n+1}{n}\right)^{2}\cdot\frac{n\theta^{2}}{(n+1)^{2}(n+2)}=\frac{\theta^{2}}{n(n+2)} .

比较:

\frac{\theta^2}{(n+1)^2}\ \ \text{vs}\ \ \frac{\theta^2}{n(n+2)},\qquad (n+1)^2=n^2+2n+1>n^2+2n=n(n+2),

故

\frac{\theta^2}{(n+1)^2}<\frac{\theta^2}{n(n+2)}\quad\Longrightarrow\quad MSE_{\min}<MSE(T_{c_1}).

有偏的 c^{*}=\frac{n+2}{n+1} 反而更好。(数值感:n=5 时 MSE_{\min}=\frac{\theta^2}{36} ,无偏的 MSE=\frac{\theta^2}{35} 。)

验算:n=1 时 c_1=2 、c^{*}=\frac32 。T_2=2X_1 ,DT_2=4\cdot\frac{\theta^2}{12}=\frac{\theta^2}{3} ;T_{1.5} 的 MSE=\theta^2\left[1.5^2\cdot\frac13-2\cdot1.5\cdot\frac12+1\right]=\theta^2\left[0.75-1.5+1\right]=0.25\theta^2=\frac{\theta^2}{4} 。而 \frac{\theta^2}{(1+1)^2}=\frac{\theta^2}{4} ✓,且 \frac{\theta^2}{4}<\frac{\theta^2}{3} ✓。

带走结论:MSE 是"偏差 + 方差"的总账,允许用一点偏差换大幅降方差。这条在 2024·22 的最后一问直接考。写答案时要明确:"无偏"是约束,"MSE 最小"是目标——约束可以放松,目标不能换。

关联 · 盘点 §6.4 均方误差 | 上游 — | 下游 — | 速查 六 评价标准四条