--- tags: [数学一, 大题十年考点, 概率论与数理统计, 参数估计, 极大似然, 无偏估计] 专题: 大题十年考点 · 点15 概率·参数估计 日期: 2026-11-01 状态: 知识点带题(15.1 矩估计与极大似然、15.2 无偏性与均方误差、15.3 次序统计量,共 3 题) 关联笔记: ["[[README]]", "[[01-知识点盘点]]", "[[概率论-第6讲-数理统计]]"] --- # 点 15 概率 · 参数估计 > 真题锚点:2016·23、2017·23、2018·23、2019·23、2020·23、2022·22、2024·22(十年 **7 题 79 分**)|重要度 ★★★ > 依赖:一维分布与分布函数。盘点对应:§15 全节。完整知识见 [概率论-第6讲](../概率论-第6讲-数理统计/README.md)。 **组织原则**:概率大题的另一个来源(7 题 79 分)。老卷固定在解 23,新卷与点 14 轮换。3 题覆盖三种问法:**矩估计 $+$ MLE**、**无偏性与均方误差**、**次序统计量(最大/最小)**。 ## 知识点 15.1 矩估计与极大似然(出处:[概率论-第6讲 点4 矩估计](../概率论-第6讲-数理统计/05-点4-矩估计.md) 与 [点5 最大似然](../概率论-第6讲-数理统计/06-点5-最大似然估计.md)) **矩估计**:令"样本均值 $=$ 总体均值",解出参数。 $$\bar X=E_\theta(X)\ \Longrightarrow\ \hat\theta_{\text{矩}} .$$ **极大似然**:$L(\theta)=\prod f(x_i;\theta)$ ,取对数,求导令零,**并检查驻点是否在参数空间内**。 $$\frac{d\ln L}{d\theta}=0\ \Longrightarrow\ \hat\theta_{\text{MLE}} .$$ **两个特判**(十年考过两次): 1. 当 $L$ 关于 $\theta$ **单调**(如总体是 $U(0,\theta)$ 、$f=e^{-(x-\theta)}$ )时,导数不为零,MLE 落在**参数的边界**上,由"所有 $x_i$ 都必须落在支撑内"给出,答案形如 $\hat\theta=\max X_i$ 或 $\min X_i$ ; 2. 含指示函数的密度**不能直接求导**,必须先写清支撑条件。 ## 知识点 15.2 无偏性与均方误差(出处:[概率论-第6讲 · 点6 估计量的评价标准](../概率论-第6讲-数理统计/07-点6-估计量的评价标准.md)) $$\text{无偏}:\ E(\hat\theta)=\theta;\qquad \operatorname{MSE}(\hat\theta)=E\left(\hat\theta-\theta\right)^2=D(\hat\theta)+\left[E(\hat\theta)-\theta\right]^2 .$$ **求 $E(\hat\theta)$ 的常规路径**:先求 $\hat\theta$ 的分布(通常是 $\max$ 或 $\min$ ,用分布函数法),再算期望。 **修正为无偏**:若 $E(\hat\theta)=c\theta$ ($c$ 为常数),则 $\frac{1}{c}\hat\theta$ 无偏。 ## 知识点 15.3 次序统计量(出处:[概率论-第6讲 · 点1 总体样本与统计量](../概率论-第6讲-数理统计/02-点1-总体样本与统计量.md)) 设 $X_1,\dots,X_n$ iid,分布函数 $F$ ,密度 $f$ 。 $$M=\max X_i:\ F_M(m)=\left[F(m)\right]^n,\qquad f_M(m)=n\left[F(m)\right]^{n-1}f(m);$$ $$L=\min X_i:\ P\{L>l\}=\left[1-F(l)\right]^n,\qquad f_L(l)=n\left[1-F(l)\right]^{n-1}f(l).$$ **两个必背结论**:$X\sim U(0,\theta)$ 时 $E(\max)=\frac{n}{n+1}\theta$ ;总体密度 $e^{-(x-\theta)}$ ($x\ge\theta$ )时 $E(\min)=\theta+\frac1n$ 。 **"求 $P\{\hat\theta>\theta+t\}$ "这类问题**:直接用 $\max$ 的分布函数 $\left(\frac{\theta+t}{\theta}\right)^n$ 或 $\min$ 的生存函数 $e^{-nt}$ 。 --- ## 题目(按知识点顺序对应) ### 题 1 · 15.1:矩估计与极大似然并排(★★☆) > 【2017·23 骨架】设总体 $X$ 的概率密度为 > > $$f(x;\theta)=\begin{cases}\theta x^{\theta-1},&00),$$ > > $X_1,\dots,X_n$ 是来自该总体的简单随机样本。求 $\theta$ 的矩估计量与最大似然估计量。 **怎么想**:矩估计先算 $E(X)$ (对 $x$ 从 $0$ 到 $1$ 积分,得 $\frac{\theta}{\theta+1}$ ),再反解。MLE 取对数后对 $\theta$ 求导,一次就完。 **解**:**① 矩估计**。先算总体均值: $$E(X)=\int_0^1x\cdot\theta x^{\theta-1}dx=\theta\int_0^1x^{\theta}dx=\frac{\theta}{\theta+1} .$$ 令 $\frac{\theta}{\theta+1}=\bar X$ ,解得 $\theta(1-\bar X)=\bar X$ ,即 $$\hat\theta_{\text{矩}}=\frac{\bar X}{1-\bar X} .$$ **② 极大似然**。似然函数(所有 $x_i\in(0,1)$ 时) $$L(\theta)=\prod_{i=1}^n\theta x_i^{\theta-1}=\theta^n\left(\prod_{i=1}^nx_i\right)^{\theta-1},$$ 取对数: $$\ln L(\theta)=n\ln\theta+(\theta-1)\sum_{i=1}^n\ln x_i .$$ 求导令零: $$\frac{d\ln L}{d\theta}=\frac{n}{\theta}+\sum_{i=1}^n\ln x_i=0\ \Longrightarrow\ \hat\theta_{\text{MLE}}=-\frac{n}{\sum_{i=1}^n\ln X_i} .$$ 因 $\frac{d^2\ln L}{d\theta^2}=-\frac{n}{\theta^2}<0$ ,故为极大值点。 **验算**:注意 $00$ ✓(参数空间内)。数值例:取 $n=2$ ,$x_1=x_2=\frac12$ ,则 $\hat\theta_{\text{MLE}}=-\frac{2}{2\ln0.5}=\frac{1}{\ln2}\approx1.443$ ;而 $\bar X=0.5$ 给 $\hat\theta_{\text{矩}}=1$ ,两个估计不同(正常,估计量不必相同)。 **带走结论**:**矩估计看一阶矩,MLE 看对数似然导数**。有一点必须写:MLE 的驻点要在参数空间内(本题 $\hat\theta>0$ 由 $\ln x_i<0$ 保证),并说明二阶导为负。 > **关联** · 盘点 [§15.1 矩估计与极大似然](01-知识点盘点.md#user-content-151-矩估计与极大似然) | 上游 — | 下游 — | 速查 [十五 参数估计:两个必背](17-速查卡.md#user-content-十五-参数估计两个必背) --- ### 题 2 · 15.2:最大值型估计的无偏修正(★★★) > 【2016·23 骨架】设总体 $X\sim U(0,\theta)$ ($\theta>0$ 未知),$X_1,\dots,X_n$ 为简单随机样本,记 $M=\max\{X_1,\dots,X_n\}$ 。 > > (Ⅰ)求 $\theta$ 的最大似然估计量;(Ⅱ)判断 $M$ 是否为 $\theta$ 的无偏估计,若不是,请修正为无偏估计;(Ⅲ)求修正后估计量的方差。 **怎么想**:似然函数 $L(\theta)=\frac{1}{\theta^n}$ 且要求所有 $x_i\le\theta$ ,故 $L$ 关于 $\theta$ 单调递减,MLE 取在**最小的可行 $\theta$ ** 上,即 $\theta=M$ 。期望靠 $M$ 的分布函数 $\left(\frac{m}{\theta}\right)^n$ 算。 **解**:(Ⅰ)$L(\theta)=\prod\frac{1}{\theta}=\frac{1}{\theta^n}$ (要求 $0\le x_i\le\theta$ ,即 $\theta\ge M$ )。$L$ 在 $\theta\ge M$ 上关于 $\theta$ 严格递减,故在 $\theta=M$ 处取最大: $$\hat\theta_{\text{MLE}}=M=\max\{X_1,\dots,X_n\} .$$ (Ⅱ)$M$ 的分布函数:$F_M(m)=P\{M\le m\}=\left(\frac{m}{\theta}\right)^n$ ($0\le m\le\theta$ ),密度 $$f_M(m)=\frac{n\,m^{n-1}}{\theta^n},\quad 0\le m\le\theta .$$ $$E(M)=\int_0^\theta m\cdot\frac{nm^{n-1}}{\theta^n}dm=\frac{n}{\theta^n}\cdot\frac{\theta^{n+1}}{n+1}=\frac{n}{n+1}\theta\ne\theta .$$ 故 $M$ **不是**无偏估计(系统性偏小,因为样本最大值总不超过 $\theta$ )。修正: $$\tilde\theta=\frac{n+1}{n}M,\qquad E(\tilde\theta)=\frac{n+1}{n}\cdot\frac{n}{n+1}\theta=\theta .$$ (Ⅲ)先算二阶矩: $$E(M^2)=\int_0^\theta m^2\frac{nm^{n-1}}{\theta^n}dm=\frac{n}{\theta^n}\cdot\frac{\theta^{n+2}}{n+2}=\frac{n}{n+2}\theta^2 .$$ $$D(M)=\frac{n}{n+2}\theta^2-\left(\frac{n}{n+1}\theta\right)^2=\theta^2\left[\frac{n}{n+2}-\frac{n^2}{(n+1)^2}\right]=\frac{n\theta^2}{(n+1)^2(n+2)} .$$ (通分验证:$\frac{n(n+1)^2-n^2(n+2)}{(n+2)(n+1)^2}=\frac{n(n^2+2n+1)-n^3-2n^2}{(n+2)(n+1)^2}=\frac{n}{(n+2)(n+1)^2}$ ✓。) 故 $$D(\tilde\theta)=\left(\frac{n+1}{n}\right)^2D(M)=\frac{(n+1)^2}{n^2}\cdot\frac{n\theta^2}{(n+1)^2(n+2)}=\frac{\theta^2}{n(n+2)} .$$ **验算**:$n=1$ 时 $M=X_1$ ,$E(M)=\frac\theta2$ ✓,$\tilde\theta=2X_1$ ;按公式 $D(\tilde\theta)=\frac{\theta^2}{1\cdot3}=\frac{\theta^2}{3}$ ,而直接算 $D(2X_1)=4\cdot\frac{\theta^2}{12}=\frac{\theta^2}{3}$ ✓。 **带走结论**:**$U(0,\theta)$ 的两个必背结论:$\hat\theta_{\text{MLE}}=\max$ 、$E(\max)=\frac{n}{n+1}\theta$ ** ,修正因子 $\frac{n+1}{n}$ 。求期望前必须先写出 $M$ 的分布函数,这一步是全部分数的来源。 > **关联** · 盘点 [§15.2 无偏性与均方误差](01-知识点盘点.md#user-content-152-无偏性与均方误差) | 上游 — | 下游 — | 速查 [十五 参数估计:两个必背](17-速查卡.md#user-content-十五-参数估计两个必背) --- ### 题 3 · 15.3:最小值型估计(★★★) > 设总体 $X$ 的概率密度为 > > $$f(x;\theta)=\begin{cases}e^{-(x-\theta)},&x\ge\theta\\ 0,&x<\theta\end{cases}$$ > > 其中 $\theta\in\mathbb R$ 未知,$X_1,\dots,X_n$ 为样本,记 $L=\min\{X_1,\dots,X_n\}$ 。 > > (Ⅰ)求 $\theta$ 的最大似然估计量;(Ⅱ)证明 $L-\dfrac1n$ 是 $\theta$ 的无偏估计;(Ⅲ)求 $P\left\{L>\theta+\dfrac{\ln2}{n}\right\}$ 。 **怎么想**:似然函数只含 $\theta$ 的支撑条件,$\theta$ 越大指数部分越小,故 MLE 取**能取到的最大 $\theta$ **,即 $\theta=L$ 。$L$ 的分布用生存函数 $P\{L>l\}=\left[1-F(l)\right]^n$ 最快。 **解**:(Ⅰ)似然函数(所有 $x_i\ge\theta$ 时) $$L(\theta)=\prod_{i=1}^ne^{-(x_i-\theta)}=e^{-\sum x_i+n\theta},$$ 且要求 $\theta\le\min x_i=L$ 。$L(\theta)$ 关于 $\theta$ 严格递增,故在 $\theta=L$ 处最大: $$\hat\theta_{\text{MLE}}=L=\min\{X_1,\dots,X_n\} .$$ (Ⅱ)由 $f(x;\theta)=e^{-(x-\theta)}$ ($x\ge\theta$ )得分布函数 $$F(x)=1-e^{-(x-\theta)},\quad x\ge\theta;\qquad F(x)=0,\ x<\theta .$$ 对 $l\ge\theta$ , $$P\{L>l\}=P\{X_1>l,\dots,X_n>l\}=\left[e^{-(l-\theta)}\right]^n=e^{-n(l-\theta)} .$$ 这说明 $L-\theta$ 服从参数为 $n$ 的指数分布,故 $$E(L-\theta)=\frac1n\ \Longrightarrow\ E(L)=\theta+\frac1n\ \Longrightarrow\ E\left(L-\frac1n\right)=\theta .$$ 即 $L-\frac1n$ 是 $\theta$ 的无偏估计。 (Ⅲ) $$P\left\{L>\theta+\frac{\ln2}{n}\right\}=e^{-n\cdot\frac{\ln2}{n}}=e^{-\ln2}=\frac12 .$$ **验算**:$n=1$ 时 $L=X_1$ ,(Ⅱ)给 $E(L)=\theta+1$ ✓(指数分布期望为 $1$ )。$P\left\{L>\theta+\frac{1}{n}\right\}=e^{-1}$ ,而 $P\left\{L>\theta+\frac{\ln2}{n}\right\}=2^{-1}$ ——中位数对应 $\frac{\ln2}{n}$ ✓。 **带走结论**:**位置参数 $+$ 支撑下界型的密度,MLE 一定是 $\min$ **(与 $U(0,\theta)$ 的 $\max$ 相对)。求分布一律用**生存函数** $P\{L>l\}=[1-F(l)]^n$ ,比先求密度再积分快,而且能直接读出"$L-\theta\sim E(n)$ "这个结论。 > **关联** · 盘点 [§15.3 次序统计量](01-知识点盘点.md#user-content-153-次序统计量) | 上游 — | 下游 — | 速查 [十五 参数估计:两个必背](17-速查卡.md#user-content-十五-参数估计两个必背) ---