Files
MathNotesVersion2/基于考研的学习/数学一/在学练习/大题十年考点/16-点15-概率参数估计.md
T
Yimu 4e4009de30 重构概率论第6讲为「知识点带题」格式,并修复跨讲死链
- 第6讲数理统计:删旧三件套(01-考点手册 4.8 万字符 / 02-试题 / 03-解析)与 PDF,
  改为 01-知识点盘点 + 02—09 八点分册 + 10-速查卡,共 10 文件 26 题
- 八点:总体样本与统计量 / 三大抽样分布 / 正态总体抽样分布 / 矩估计 /
  最大似然 / 评价标准 / 区间估计 / 假设检验与两类错误
- 盘点含 §0.1 按分值、§0.2 依赖链、§0.3 符号、§0.4 AUTO 反查、§9 覆盖对照(21 条)、§10 接口
- 修复 2026-10 第3讲重构留下的死链:大题十年考点/15-点14(7 处指向已删 01-考点手册)、
  知识点构建/17-背诵版第3讲(回查入口 4 处)
- 知识点构建/20-背诵版第6讲:回查入口改指新文件,题源注明旧 18 题清单已失效待重出
- 同步:总览.md 第6讲目录树、知识点构建 README 题量 18 → 26
2026-11-07 13:02:26 +08:00

10 KiB
Raw Blame History

tags, 专题, 日期, 状态, 关联笔记
tags 专题 日期 状态 关联笔记
数学一
大题十年考点
概率论与数理统计
参数估计
极大似然
无偏估计
大题十年考点 · 点15 概率·参数估计 2026-11-01 知识点带题(15.1 矩估计与极大似然、15.2 无偏性与均方误差、15.3 次序统计量,共 3 题)
README
01-知识点盘点
概率论-第6讲-数理统计

点 15 概率 · 参数估计

真题锚点:2016·23、2017·23、2018·23、2019·23、2020·23、2022·22、2024·22(十年 7 题 79 分)|重要度 ★★★ 依赖:一维分布与分布函数。盘点对应:§15 全节。完整知识见 概率论-第6讲。

组织原则:概率大题的另一个来源(7 题 79 分)。老卷固定在解 23,新卷与点 14 轮换。3 题覆盖三种问法:矩估计 + MLE、无偏性与均方误差、次序统计量(最大/最小)。

知识点 15.1 矩估计与极大似然(出处:概率论-第6讲 点4 矩估计 与 点5 最大似然)

矩估计:令"样本均值 = 总体均值",解出参数。

\bar X=E_\theta(X)\ \Longrightarrow\ \hat\theta_{\text{矩}} .

极大似然:L(\theta)=\prod f(x_i;\theta) ,取对数,求导令零,并检查驻点是否在参数空间内。

\frac{d\ln L}{d\theta}=0\ \Longrightarrow\ \hat\theta_{\text{MLE}} .

两个特判(十年考过两次):

  1. 当 L 关于 \theta 单调(如总体是 U(0,\theta) 、f=e^{-(x-\theta)} )时,导数不为零,MLE 落在参数的边界上,由"所有 x_i 都必须落在支撑内"给出,答案形如 \hat\theta=\max X_i 或 \min X_i ;
  2. 含指示函数的密度不能直接求导,必须先写清支撑条件。

知识点 15.2 无偏性与均方误差(出处:概率论-第6讲 · 点6 估计量的评价标准)

\text{无偏}:\ E(\hat\theta)=\theta;\qquad \operatorname{MSE}(\hat\theta)=E\left(\hat\theta-\theta\right)^2=D(\hat\theta)+\left[E(\hat\theta)-\theta\right]^2 .

求 E(\hat\theta) 的常规路径:先求 \hat\theta 的分布(通常是 \max 或 \min ,用分布函数法),再算期望。

修正为无偏:若 E(\hat\theta)=c\theta (c 为常数),则 \frac{1}{c}\hat\theta 无偏。

知识点 15.3 次序统计量(出处:概率论-第6讲 · 点1 总体样本与统计量)

设 X_1,\dots,X_n iid,分布函数 F ,密度 f 。

M=\max X_i:\ F_M(m)=\left[F(m)\right]^n,\qquad f_M(m)=n\left[F(m)\right]^{n-1}f(m); L=\min X_i:\ P\{L>l\}=\left[1-F(l)\right]^n,\qquad f_L(l)=n\left[1-F(l)\right]^{n-1}f(l).

两个必背结论:X\sim U(0,\theta) 时 E(\max)=\frac{n}{n+1}\theta ;总体密度 e^{-(x-\theta)} (x\ge\theta )时 E(\min)=\theta+\frac1n 。

"求 P\{\hat\theta>\theta+t\} "这类问题:直接用 \max 的分布函数 \left(\frac{\theta+t}{\theta}\right)^n 或 \min 的生存函数 e^{-nt} 。


题目(按知识点顺序对应)

题 1 · 15.1:矩估计与极大似然并排(★★☆)

【2017·23 骨架】设总体 X 的概率密度为

f(x;\theta)=\begin{cases}\theta x^{\theta-1},&0<x<1\\ 0,&\text{其他}\end{cases}\qquad(\theta>0),

X_1,\dots,X_n 是来自该总体的简单随机样本。求 \theta 的矩估计量与最大似然估计量。

怎么想:矩估计先算 E(X) (对 x 从 0 到 1 积分,得 \frac{\theta}{\theta+1} ),再反解。MLE 取对数后对 \theta 求导,一次就完。

解:① 矩估计。先算总体均值:

E(X)=\int_0^1x\cdot\theta x^{\theta-1}dx=\theta\int_0^1x^{\theta}dx=\frac{\theta}{\theta+1} .

令 \frac{\theta}{\theta+1}=\bar X ,解得 \theta(1-\bar X)=\bar X ,即

\hat\theta_{\text{矩}}=\frac{\bar X}{1-\bar X} .

② 极大似然。似然函数(所有 x_i\in(0,1) 时)

L(\theta)=\prod_{i=1}^n\theta x_i^{\theta-1}=\theta^n\left(\prod_{i=1}^nx_i\right)^{\theta-1},

取对数:

\ln L(\theta)=n\ln\theta+(\theta-1)\sum_{i=1}^n\ln x_i .

求导令零:

\frac{d\ln L}{d\theta}=\frac{n}{\theta}+\sum_{i=1}^n\ln x_i=0\ \Longrightarrow\ \hat\theta_{\text{MLE}}=-\frac{n}{\sum_{i=1}^n\ln X_i} .

因 \frac{d^2\ln L}{d\theta^2}=-\frac{n}{\theta^2}<0 ,故为极大值点。

验算:注意 0<x_i<1 时 \ln x_i<0 ,故 \hat\theta_{\text{MLE}}>0 ✓(参数空间内)。数值例:取 n=2 ,x_1=x_2=\frac12 ,则 \hat\theta_{\text{MLE}}=-\frac{2}{2\ln0.5}=\frac{1}{\ln2}\approx1.443 ;而 \bar X=0.5 给 \hat\theta_{\text{矩}}=1 ,两个估计不同(正常,估计量不必相同)。

带走结论:矩估计看一阶矩,MLE 看对数似然导数。有一点必须写:MLE 的驻点要在参数空间内(本题 \hat\theta>0 由 \ln x_i<0 保证),并说明二阶导为负。

关联 · 盘点 §15.1 矩估计与极大似然 | 上游 — | 下游 — | 速查 十五 参数估计:两个必背


题 2 · 15.2:最大值型估计的无偏修正(★★★)

【2016·23 骨架】设总体 X\sim U(0,\theta) (\theta>0 未知),X_1,\dots,X_n 为简单随机样本,记 M=\max\{X_1,\dots,X_n\} 。

(Ⅰ)求 \theta 的最大似然估计量;(Ⅱ)判断 M 是否为 \theta 的无偏估计,若不是,请修正为无偏估计;(Ⅲ)求修正后估计量的方差。

怎么想:似然函数 L(\theta)=\frac{1}{\theta^n} 且要求所有 x_i\le\theta ,故 L 关于 \theta 单调递减,MLE 取在**最小的可行 \theta ** 上,即 \theta=M 。期望靠 M 的分布函数 \left(\frac{m}{\theta}\right)^n 算。

解:(Ⅰ)L(\theta)=\prod\frac{1}{\theta}=\frac{1}{\theta^n} (要求 0\le x_i\le\theta ,即 \theta\ge M )。L 在 \theta\ge M 上关于 \theta 严格递减,故在 \theta=M 处取最大:

\hat\theta_{\text{MLE}}=M=\max\{X_1,\dots,X_n\} .

(Ⅱ)M 的分布函数:F_M(m)=P\{M\le m\}=\left(\frac{m}{\theta}\right)^n (0\le m\le\theta ),密度

f_M(m)=\frac{n\,m^{n-1}}{\theta^n},\quad 0\le m\le\theta . E(M)=\int_0^\theta m\cdot\frac{nm^{n-1}}{\theta^n}dm=\frac{n}{\theta^n}\cdot\frac{\theta^{n+1}}{n+1}=\frac{n}{n+1}\theta\ne\theta .

故 M 不是无偏估计(系统性偏小,因为样本最大值总不超过 \theta )。修正:

\tilde\theta=\frac{n+1}{n}M,\qquad E(\tilde\theta)=\frac{n+1}{n}\cdot\frac{n}{n+1}\theta=\theta .

(Ⅲ)先算二阶矩:

E(M^2)=\int_0^\theta m^2\frac{nm^{n-1}}{\theta^n}dm=\frac{n}{\theta^n}\cdot\frac{\theta^{n+2}}{n+2}=\frac{n}{n+2}\theta^2 . D(M)=\frac{n}{n+2}\theta^2-\left(\frac{n}{n+1}\theta\right)^2=\theta^2\left[\frac{n}{n+2}-\frac{n^2}{(n+1)^2}\right]=\frac{n\theta^2}{(n+1)^2(n+2)} .

(通分验证:\frac{n(n+1)^2-n^2(n+2)}{(n+2)(n+1)^2}=\frac{n(n^2+2n+1)-n^3-2n^2}{(n+2)(n+1)^2}=\frac{n}{(n+2)(n+1)^2} ✓。)

故

D(\tilde\theta)=\left(\frac{n+1}{n}\right)^2D(M)=\frac{(n+1)^2}{n^2}\cdot\frac{n\theta^2}{(n+1)^2(n+2)}=\frac{\theta^2}{n(n+2)} .

验算:n=1 时 M=X_1 ,E(M)=\frac\theta2 ✓,\tilde\theta=2X_1 ;按公式 D(\tilde\theta)=\frac{\theta^2}{1\cdot3}=\frac{\theta^2}{3} ,而直接算 D(2X_1)=4\cdot\frac{\theta^2}{12}=\frac{\theta^2}{3} ✓。

带走结论:**U(0,\theta) 的两个必背结论:\hat\theta_{\text{MLE}}=\max 、E(\max)=\frac{n}{n+1}\theta ** ,修正因子 \frac{n+1}{n} 。求期望前必须先写出 M 的分布函数,这一步是全部分数的来源。

关联 · 盘点 §15.2 无偏性与均方误差 | 上游 — | 下游 — | 速查 十五 参数估计:两个必背


题 3 · 15.3:最小值型估计(★★★)

设总体 X 的概率密度为

f(x;\theta)=\begin{cases}e^{-(x-\theta)},&x\ge\theta\\ 0,&x<\theta\end{cases}

其中 \theta\in\mathbb R 未知,X_1,\dots,X_n 为样本,记 L=\min\{X_1,\dots,X_n\} 。

(Ⅰ)求 \theta 的最大似然估计量;(Ⅱ)证明 L-\dfrac1n 是 \theta 的无偏估计;(Ⅲ)求 P\left\{L>\theta+\dfrac{\ln2}{n}\right\} 。

怎么想:似然函数只含 \theta 的支撑条件,\theta 越大指数部分越小,故 MLE 取**能取到的最大 \theta **,即 \theta=L 。L 的分布用生存函数 P\{L>l\}=\left[1-F(l)\right]^n 最快。

解:(Ⅰ)似然函数(所有 x_i\ge\theta 时)

L(\theta)=\prod_{i=1}^ne^{-(x_i-\theta)}=e^{-\sum x_i+n\theta},

且要求 \theta\le\min x_i=L 。L(\theta) 关于 \theta 严格递增,故在 \theta=L 处最大:

\hat\theta_{\text{MLE}}=L=\min\{X_1,\dots,X_n\} .

(Ⅱ)由 f(x;\theta)=e^{-(x-\theta)} (x\ge\theta )得分布函数

F(x)=1-e^{-(x-\theta)},\quad x\ge\theta;\qquad F(x)=0,\ x<\theta .

对 l\ge\theta ,

P\{L>l\}=P\{X_1>l,\dots,X_n>l\}=\left[e^{-(l-\theta)}\right]^n=e^{-n(l-\theta)} .

这说明 L-\theta 服从参数为 n 的指数分布,故

E(L-\theta)=\frac1n\ \Longrightarrow\ E(L)=\theta+\frac1n\ \Longrightarrow\ E\left(L-\frac1n\right)=\theta .

即 L-\frac1n 是 \theta 的无偏估计。

(Ⅲ)

P\left\{L>\theta+\frac{\ln2}{n}\right\}=e^{-n\cdot\frac{\ln2}{n}}=e^{-\ln2}=\frac12 .

验算:n=1 时 L=X_1 ,(Ⅱ)给 E(L)=\theta+1 ✓(指数分布期望为 1 )。P\left\{L>\theta+\frac{1}{n}\right\}=e^{-1} ,而 P\left\{L>\theta+\frac{\ln2}{n}\right\}=2^{-1} ——中位数对应 \frac{\ln2}{n} ✓。

带走结论:位置参数 + 支撑下界型的密度,MLE 一定是 \min (与 U(0,\theta) 的 \max 相对)。求分布一律用生存函数 P\{L>l\}=[1-F(l)]^n ,比先求密度再积分快,而且能直接读出"L-\theta\sim E(n) "这个结论。

关联 · 盘点 §15.3 次序统计量 | 上游 — | 下游 — | 速查 十五 参数估计:两个必背