--- tags: [数学一, 在学练习, 概率论, 数理统计, 无偏性, 有效性, 相合性, 均方误差] 专题: 概率论 第6讲 · 点6 估计量的评价标准 日期: 2026-11-07 状态: 知识点带题(6.1 无偏、6.2 有效、6.3 相合、6.4 均方误差,共 4 题) 关联笔记: ["[[README]]", "[[01-知识点盘点]]"] --- # 点 6 估计量的评价标准 > **2021·9(5 分)、2023·10(5 分)、2024·22(12 分)、2016·23(11 分)—— 约 33 分**|重要度 ★★★ > 依赖:点 1 的三个基本期望、点 5 的 MLE、第 5 讲上的依概率收敛。盘点对应:§6 全节。 **组织原则**:四个标准是四条独立的判据,**必须分开记**:无偏看期望、有效看方差、相合看极限、均方误差看"期望 + 方差"的合成。四题各打一个标准,第 4 题(2024·22 骨架)把无偏与均方误差放在一起对照,**结论是"有偏的估计有时更好"**,这是本点最有价值的一条。难度标准:★★☆ 三题、★★★ 一题。 ## 知识点 6.1 无偏性(出处:[知识章 §3.3](../../../../参考仓库/Math/probability-theory-and-mathematical-statistics/knowledge/5-mathematical-statistics/mathematical-statistics.tex)) $$E\hat\theta=\theta\quad(\text{对一切}\ \theta).$$ **三条常用**:$E\bar X=\mu$ ;$ES^2=\sigma^2$ ;$E S_n^2=\dfrac{n-1}{n}\sigma^2$ (有偏)。 > **"无偏"是估计量的性质,不是估计值的性质**。一次抽样的 $\hat\theta$ 与 $\theta$ 差多少,与无偏无关;无偏说的是"**反复抽样时平均等于真值**"。 ## 知识点 6.2 有效性(出处:[知识章 §3.3](../../../../参考仓库/Math/probability-theory-and-mathematical-statistics/knowledge/5-mathematical-statistics/mathematical-statistics.tex)) 在两个**都无偏**的估计量之间比较方差,**方差小的更有效**: $$\frac{D\hat\theta_1}{D\hat\theta_2}<1\ \Longrightarrow\ \hat\theta_1\ \text{比}\ \hat\theta_2\ \text{有效}.$$ **一条重要限制**:有效性只在"同属无偏"的集合里比。一个无偏但方差大、一个有偏但方差极小,谁更好要用点 6.4 的均方误差来判。 ## 知识点 6.3 相合性(一致性)(出处:[知识章 §3.3](../../../../参考仓库/Math/probability-theory-and-mathematical-statistics/knowledge/5-mathematical-statistics/mathematical-statistics.tex)) $$\hat\theta_n\overset{P}{\longrightarrow}\theta\quad(n\to\infty).$$ **判据(切比雪夫路线,考场上唯一要写的)**:若 $$E\hat\theta_n\to\theta\quad\text{且}\quad D\hat\theta_n\to0,$$ 则 $\hat\theta_n$ 相合。因为 $P\{\lvert\hat\theta_n-\theta\rvert\ge\varepsilon\}\le\dfrac{E(\hat\theta_n-\theta)^2}{\varepsilon^2}=\dfrac{D\hat\theta_n+\text{偏差}^2}{\varepsilon^2}\to0$ 。 > **相合与无偏互不蕴含**:$\bar X+\frac1n$ 有偏但相合;$X_1$ 无偏($EX_1=\mu$ )但不相合(方差恒为 $\sigma^2$ 不趋于 $0$ )。**大样本性质看相合,小样本性质看无偏。** ## 知识点 6.4 均方误差(出处:参考仓库未单列,2024·22 引入) $$MSE(\hat\theta)=E(\hat\theta-\theta)^2=D\hat\theta+\left(E\hat\theta-\theta\right)^2 .$$ 读法:**总误差 = 波动 $+$ 偏差的平方**。无偏时第二项为 $0$ ,$MSE$ 退化为方差。 **它允许"有偏换低方差"**:只要偏差的平方小于省下的方差,有偏估计的 $MSE$ 反而更小——这就是第 4 题的结论。 --- ## 题目(按知识点顺序对应) ### 题 1 · 6.1:无偏性反解系数(★★☆) > 设 $X_1,X_2$ 是来自 $N(\mu,\sigma^2)$ 的简单随机样本,$\sigma>0$ 未知。记 $\hat\sigma=a\lvert X_1-X_2\rvert$ 。 > > (Ⅰ)求使 $\hat\sigma$ 为 $\sigma$ 的无偏估计的常数 $a$ ; > (Ⅱ)$S^2$ 是 $\sigma^2$ 的无偏估计,那么 $\sqrt{S^2}=S$ 是否为 $\sigma$ 的无偏估计? > (Ⅲ)由(Ⅱ)说明"无偏性不能穿过非线性函数"。 **怎么想**:(Ⅰ)关键是 $X_1-X_2\sim N(0,2\sigma^2)$ ,再用半正态的期望 $E\lvert Z\rvert=\sigma_Z\sqrt{2/\pi}$ 。(Ⅱ)用凹凸性:开根号是凹函数,$E\sqrt{\cdot}<\sqrt{E\cdot}$ 。 **解**: **(Ⅰ)** $X_1-X_2\sim N(0,\ 2\sigma^2)$ ,记 $Z=\dfrac{X_1-X_2}{\sqrt2\sigma}\sim N(0,1)$ ,则 $$\lvert X_1-X_2\rvert=\sqrt2\,\sigma\lvert Z\rvert,\qquad E\lvert Z\rvert=\sqrt{\frac{2}{\pi}} .$$ 故 $$E\lvert X_1-X_2\rvert=\sqrt2\,\sigma\cdot\sqrt{\frac{2}{\pi}}=\frac{2\sigma}{\sqrt\pi} .$$ 要使 $E(a\lvert X_1-X_2\rvert)=\sigma$ ,需 $$a\cdot\frac{2\sigma}{\sqrt\pi}=\sigma\quad\Longrightarrow\quad a=\frac{\sqrt\pi}{2}\approx0.886 .$$ **(Ⅱ)** **不是无偏的**。由柯西–施瓦茨(或 $g(x)=\sqrt x$ 为凹函数、琴生不等式), $$E S=E\sqrt{S^2}<\sqrt{ES^2}=\sqrt{\sigma^2}=\sigma .$$ 所以 $S$ 系统性**偏小**($n$ 大时偏差趋于 $0$ ,但永远小于 $\sigma$ )。 **(Ⅲ)** 因为 $E\left[g(\hat\theta)\right]\ne g\left(E\hat\theta\right)$ 除非 $g$ 是线性的。所以: > **$\hat\theta$ 无偏 $\nRightarrow g(\hat\theta)$ 无偏**。但反过来,**若 $\hat\theta$ 是 $\theta$ 的 MLE,则 $g(\hat\theta)$ 是 $g(\theta)$ 的 MLE**(不变性)——**"无偏"不传递,"最大似然"传递**,这两个性质必须分清。 **验算**:取 $n=2$ 校验(Ⅰ)的常数合理性:$\lvert X_1-X_2\rvert$ 的平均大约 $0.886\sigma$ ,与 $\sqrt\pi/2$ 的系数吻合($\frac{1}{0.886}=1.128=\frac{2}{\sqrt\pi}$ ✓)。 **带走结论**:**看到 $\lvert X_1-X_2\rvert$ 就要想到半正态的一阶矩** $E\lvert Z\rvert=\sqrt{2/\pi}$ ——这是 2023·10 的整套解题链。另外牢记两条:**"无偏"不穿过非线性函数,"MLE + 不变性"可以穿过**。 > **关联** · 盘点 [§6.1 无偏性](01-知识点盘点.md#user-content-61-无偏性) | 上游 — | 下游 — | 速查 [六 评价标准四条](10-速查卡.md#user-content-六-评价标准四条) --- ### 题 2 · 6.2:三个均值型估计谁更有效(★★☆) > 设 $X_1,X_2,X_3$ 是来自总体 $(\mu,\sigma^2)$ 的简单随机样本。考虑 $\mu$ 的三个估计量: > > $$\hat\mu_1=\frac13(X_1+X_2+X_3),\quad \hat\mu_2=\frac12(X_1+X_2),\quad \hat\mu_3=\frac14X_1+\frac14X_2+\frac12X_3 .$$ > > (Ⅰ)验证三者都无偏; > (Ⅱ)比较有效性,指出最有效的一个; > (Ⅲ)在"系数非负且和为 $1$ "的约束下,最有效的估计量是什么? **怎么想**:$\hat\mu=\sum a_iX_i$ 无偏 $\iff$ 系数和为 $1$ ;方差是 $\left(\sum a_i^2\right)\sigma^2$ 。所以问题变成"**平方和最小**"。 **解**: **(Ⅰ)** 三组系数和都是 $1$ : $$\frac13+\frac13+\frac13=1,\qquad \frac12+\frac12=1,\qquad \frac14+\frac14+\frac12=1 .$$ 故 $E\hat\mu_k=\mu$ ,三者都无偏。 **(Ⅱ)** 用 $D\left(\sum a_iX_i\right)=\left(\sum a_i^2\right)\sigma^2$ : $$D\hat\mu_1=3\times\frac{1}{9}\sigma^2=\frac{\sigma^2}{3};\qquad D\hat\mu_2=2\times\frac14\sigma^2=\frac{\sigma^2}{2};\qquad D\hat\mu_3=\left(\frac1{16}+\frac1{16}+\frac14\right)\sigma^2=\frac{3}{8}\sigma^2 .$$ 比较:$\dfrac13<\dfrac38<\dfrac12$ ,故 $$D\hat\mu_10.333$ ✓。直观上"权重越平均,方差越小"。 **带走结论**:**均值型估计量的比较只看"系数的平方和"** ,系数和为 $1$ 保证无偏,平方和越小越有效。**等权最优**这一结论可以推广到 $n$ 个样本:$\sum a_i^2\ge\frac1n$ ,等号在 $a_i=\frac1n$ 时成立。 > **关联** · 盘点 [§6.2 有效性](01-知识点盘点.md#user-content-62-有效性) | 上游 — | 下游 — | 速查 [六 评价标准四条](10-速查卡.md#user-content-六-评价标准四条) --- ### 题 3 · 6.3:相合性的证明与反例(★★☆) > (Ⅰ)设 $\hat\theta_n$ 是 $\theta$ 的估计量,满足 $E\hat\theta_n\to\theta$ 且 $D\hat\theta_n\to0$ 。证明 $\hat\theta_n\overset{P}{\longrightarrow}\theta$ 。 > > (Ⅱ)据此说明 $\bar X$ 是 $\mu$ 的相合估计。 > > (Ⅲ)判断:"$\hat\theta_n$ 相合"与"$\hat\theta_n$ 无偏"是否互相蕴含?各举一例。 **怎么想**:(Ⅰ)唯一工具是切比雪夫不等式(或马尔可夫不等式),作用在 $\lvert\hat\theta_n-\theta\rvert$ 上。(Ⅲ)要举两个反例,一个"有偏但相合",一个"无偏但不合"。 **解**: **(Ⅰ)** 任给 $\varepsilon>0$ ,对随机变量 $\hat\theta_n$ 用马尔可夫不等式($EY\ge\varepsilon P\{Y\ge\varepsilon\}$ ,取 $Y=(\hat\theta_n-\theta)^2$ ): $$P\left\{\lvert\hat\theta_n-\theta\rvert\ge\varepsilon\right\}=P\left\{(\hat\theta_n-\theta)^2\ge\varepsilon^2\right\}\le\frac{E(\hat\theta_n-\theta)^2}{\varepsilon^2}=\frac{D\hat\theta_n+\left(E\hat\theta_n-\theta\right)^2}{\varepsilon^2}.$$ 由条件,分子两项都趋于 $0$ ,故右端趋于 $0$ ,即 $\hat\theta_n\overset{P}{\longrightarrow}\theta$ 。$\blacksquare$ **(Ⅱ)** $\bar X$ 满足 $E\bar X=\mu$ (偏差为 $0$ )与 $D\bar X=\dfrac{\sigma^2}{n}\to0$ ,由(Ⅰ)立即得 $\bar X\overset{P}{\longrightarrow}\mu$ 。(这与第 5 讲上"辛钦大数定律"的结论一致,但用的是更强的条件——要求方差存在。) **(Ⅲ)** **不互相蕴含**。 - **有偏但相合**:$\hat\theta_n=\bar X+\dfrac1n$ 。$E\hat\theta_n=\mu+\dfrac1n\ne\mu$ (有偏),但偏差 $\frac1n\to0$ 、方差 $\frac{\sigma^2}{n}\to0$ ,故相合。 - **无偏但不合**:$\hat\theta_n=X_1$ (永远只用第一个样本)。$EX_1=\mu$ (无偏),但 $D X_1=\sigma^2$ 不趋于 $0$ ,故不相合。 **验算**:第二个例子里 $P\{\lvert X_1-\mu\rvert\ge\varepsilon\}$ 是**固定的正数**(与 $n$ 无关),永远不趋于 $0$ ✓。 **带走结论**:**相合性的判据就是"偏差 $\to0$ 且方差 $\to0$ "两句话**,缺一不可。写解答题时把这两句摆出来,比背定律名字得分稳。**无偏管小样本、相合管大样本**——两者是不同维度,不能互相替代。 > **关联** · 盘点 [§6.3 相合性(一致性)](01-知识点盘点.md#user-content-63-相合性一致性) | 上游 — | 下游 — | 速查 [六 评价标准四条](10-速查卡.md#user-content-六-评价标准四条) --- ### 题 4 · 6.4:无偏不一定最好(★★★) > 设 $X_1,\dots,X_n$ 来自 $U(0,\theta)$ ,$X_{(n)}=\max\{X_i\}$ ,考虑 $T_c=cX_{(n)}$ ($c>0$ )。已知 > > $$EX_{(n)}=\frac{n}{n+1}\theta,\qquad EX_{(n)}^{2}=\frac{n}{n+2}\theta^{2}.$$ > > (Ⅰ)求使 $T_c$ 无偏的 $c$ ; > (Ⅱ)求 $MSE(T_c)$ 关于 $c$ 的表达式,并求使 $MSE$ 最小的 $c$ ; > (Ⅲ)比较两者的 $MSE$ ,说明"无偏"为什么不是唯一标准。 **怎么想**:(Ⅱ)把 $E(T_c-\theta)^2$ 展开成三项,它对 $c$ 是**二次函数**,配方即得最优 $c$ 。(Ⅲ)直接比两个值的大小。 **解**: **(Ⅰ)** $$E T_c=c\cdot\frac{n}{n+1}\theta=\theta\quad\Longrightarrow\quad c_1=\frac{n+1}{n}.$$ **(Ⅱ)** 展开: $$MSE(T_c)=E\left(cX_{(n)}-\theta\right)^2=c^2EX_{(n)}^2-2c\theta EX_{(n)}+\theta^2$$ $$=\theta^2\left[c^2\frac{n}{n+2}-2c\frac{n}{n+1}+1\right].$$ 这是关于 $c$ 的二次函数,开口向上,顶点在 $$c^{*}=\frac{\dfrac{n}{n+1}}{\dfrac{n}{n+2}}=\frac{n+2}{n+1}.$$ 代入得最小值: $$MSE_{\min}=\theta^2\left[\frac{(n+2)^2}{(n+1)^2}\cdot\frac{n}{n+2}-\frac{2(n+2)}{n+1}\cdot\frac{n}{n+1}+1\right]=\theta^2\left[1-\frac{n(n+2)}{(n+1)^2}\right]=\frac{\theta^{2}}{(n+1)^{2}} .$$ **(Ⅲ)** 无偏时的 $MSE$ 就是方差: $$MSE(T_{c_1})=DT_{c_1}=\left(\frac{n+1}{n}\right)^{2}\cdot\frac{n\theta^{2}}{(n+1)^{2}(n+2)}=\frac{\theta^{2}}{n(n+2)} .$$ 比较: $$\frac{\theta^2}{(n+1)^2}\ \ \text{vs}\ \ \frac{\theta^2}{n(n+2)},\qquad (n+1)^2=n^2+2n+1>n^2+2n=n(n+2),$$ 故 $$\frac{\theta^2}{(n+1)^2}<\frac{\theta^2}{n(n+2)}\quad\Longrightarrow\quad MSE_{\min} **关联** · 盘点 [§6.4 均方误差](01-知识点盘点.md#user-content-64-均方误差) | 上游 — | 下游 — | 速查 [六 评价标准四条](10-速查卡.md#user-content-六-评价标准四条) ---