第七章 参数估计

统计推断的基本问题可以分为两大类,一类是估计问题,另一类是假设检验问题。本章讨论总体参数的点估计和区间估计。

§1 点 估 计

设总体 \(X\) 的分布函数的形式已知,但它的一个或多个参数未知,借助于总体 \(X\) 的一个样本来估计总体未知参数的值的问题称为参数的点估计问题。

例1 在某炸药制造厂,一天中发生着火现象的次数 \(X\) 是一个随机变量,假设它服从以 \(\lambda > 0\) 为参数的泊松分布,参数 \(\lambda\) 为未知。现有以下的样本值,试估计参数 \(\lambda\)

着火次数 \(k\)

0

1

2

3

4

5

6

发生 \(k\) 次着火的天数 \(n_k\)

75

90

54

22

6

2

1

由于 \(X \sim \pi(\lambda)\),故有 \(\lambda = E(X)\)。我们自然想到用样本均值来估计总体的均值 \(E(X)\)。现由已知数据计算得到 \( \overline{x} = \frac{\sum_{k=0}^{6} kn_k}{\sum_{k=0}^{6} n_k} \) \( = \frac{1}{250} [0 \times 75 + 1 \times 90 + 2 \times 54 + 3 \times 22 + 4 \times 6 + 5 \times 2 + 6 \times 1\) = 1.22, $

\(E(X) = \lambda\) 的估计为 1.22。

点估计问题的一般提法如下:设总体 \(X\) 的分布函数 \(F(x; \theta)\) 的形式为已知,\(\theta\) 是待估参数。\(X_1, X_2, \cdots, X_n\)\(X\) 的一个样本,\(x_1, x_2, \cdots, x_n\) 是相应的一个样本值。点估计问题就是要构造一个适当的统计量 \(\hat{\theta}(X_1, X_2, \cdots, X_n)\),用它的观察值 \(\hat{\theta}(x_1, x_2, \cdots, x_n)\) 作为未知参数 \(\theta\) 的近似值。我们称 \(\hat{\theta}(X_1, X_2, \cdots, X_n)\)\(\theta\) 的估计量,称 \(\hat{\theta}(x_1, x_2, \cdots, x_n)\)\(\theta\) 的估计值。在不致混淆的情况下统称估计量和估计量。

① 多于一个未知参数时,可同样讨论。

计值为估计,并都简记为 \(\hat{\theta}\)。由于估计量是样本的函数。因此对于不同的样本值,\(\theta\) 的估计值一般是不相同的。

例如在例1中,我们用样本均值来估计总体均值。即有估计量 \( \hat{\lambda} = E(\hat{X}) = \frac{1}{n} \sum_{k=1}^{n} X_k, \quad n = 250. \)

估计值 \( \hat{\lambda} = E(\hat{X}) = \frac{1}{n} \sum_{k=1}^{n} x_k = 1.22. \)

下面介绍两种常用的构造估计量的方法:矩估计法和最大似然估计法。

(一)矩估计法

\(X\) 为连续型随机变量,其概率密度为 \(f(x;\theta_1,\theta_2,\cdots,\theta_k)\),或 \(X\) 为离散型随机变量,其分布律为 \(P(X=x)=p(x;\theta_1,\theta_2,\cdots,\theta_k)\),其中 \(\theta_1,\theta_2,\cdots,\theta_k\) 为待估参数,\(X_1,X_2,\cdots,X_n\) 是来自 \(X\) 的样本。假设总体 \(X\) 的前 \(k\) 阶矩 \( \mu_l = E(X^l) = \int_{-\infty}^{\infty} x^l f(x;\theta_1,\theta_2,\cdots,\theta_k) dx \quad (X \text{ 连续型}) \)\( \mu_l = E(X^l) = \sum_{x \in R_X} x^l p(x;\theta_1,\theta_2,\cdots,\theta_k) \quad (X \text{ 离散型}) \)

(其中 \(R_X\)\(X\) 可能取值的范围)存在。一般来说,它们是 \(\theta_1,\theta_2,\cdots,\theta_k\) 的函数。基于样本矩 \( A_l = \frac{1}{n} \sum_{i=1}^{n} X_i \)

依概率收敛于相应的总体矩 \(\mu_l(l=1,2,\cdots,k)\),样本矩的连续函数依概率收敛于相应的总体矩的连续函数(见第六章§3),我们就用样本矩作为相应的总体矩的估计量,而以样本矩的连续函数作为相应的总体矩的连续函数的估计量。这种估计方法称为矩估计法。矩估计法的具体做法如下:设 \( \begin{cases} \mu_1 = \mu_1 (\theta_1,\theta_2,\cdots,\theta_k), \\ \mu_2 = \mu_2 (\theta_1,\theta_2,\cdots,\theta_k), \\ \vdots \\ \mu_k = \mu_k (\theta_1,\theta_2,\cdots,\theta_k). \end{cases} \)

这是一个包含 \(k\) 个未知参数 \(\theta_1,\theta_2,\cdots,\theta_k\) 的联立方程组。一般来说,可以从中解出 \(\theta_1,\theta_2,\cdots,\theta_k\),得到 \( \begin{cases} \theta_1 = \theta_1 (\mu_1,\mu_2,\cdots,\mu_k), \\ \theta_2 = \theta_2 (\mu_1,\mu_2,\cdots,\mu_k), \\ \vdots \\ \theta_k = \theta_k (\mu_1,\mu_2,\cdots,\mu_k). \end{cases} \)

\( A_i \) 分别代替上式中的 \(\mu_i, i=1,2,\cdots,k\),就以 \( \hat{\theta}_i = \theta_i (A_1,A_2,\cdots,A_k), i=1,2,\cdots,k \) 分别作为 \(\theta_i, i=1,2,\cdots,k\) 的估计量,这种估计量称为矩估计量。矩估计量的观察值称为矩估计值。

例 2 设总体 \( X \)\([a,b]\) 上服从均匀分布,\( a,b \) 未知。\( X_1,X_2,\cdots,X_n \) 是来自 \( X \) 的样本,试求 \( a,b \) 的矩估计量。

\( \mu_1 = E(X) = (a+b)/2, \) \( \mu_2 = E(X^2) = D(X) + [E(X)]^2 \) \( = (b-a)^2/12 + (a+b)^2/4. \)\( \begin{cases} a+b=2\mu_1,\\ b-a=\sqrt{12(\mu_2-\mu_1^2)}. \end{cases} \) 解这一方程组得 \( a=\mu_1 - \sqrt{3(\mu_2-\mu_1^2)}, \quad b=\mu_1 + \sqrt{3(\mu_2-\mu_1^2)}. \)

分别以 \( A_1,A_2 \) 代替 \(\mu_1,\mu_2\),得到 \( a,b \) 的矩估计量分别为(注意到 \(\frac{1}{n} \sum_{i=1}^{n}X_i^2 - \overline{X}^2 = \frac{1}{n} \sum_{i=1}^{n}(X_i - \overline{X})^2\)): \( \hat{a} = A_1 - \sqrt{3(A_2-A_1^2)} = \overline{X} - \sqrt{\frac{3}{n} \sum_{i=1}^{n}(X_i - \overline{X})^2}, \) \( \hat{b} = A_1 + \sqrt{3(A_2-A_1^2)} = \overline{X} + \sqrt{\frac{3}{n} \sum_{i=1}^{n}(X_i - \overline{X})^2}. \)

例 3 设总体 \( X \) 的均值 \(\mu\) 及方差 \(\sigma^2\) 都存在,且有 \(\sigma^2>0\)。但 \(\mu,\sigma^2\) 均为未知。又设 \( X_1,X_2,\cdots,X_n \) 是来自 \( X \) 的样本。试求 \(\mu,\sigma^2\) 的矩估计量。

\( \begin{cases} \mu_1 = E(X) = \mu,\\ \mu_2 = E(X^2) = D(X) + [E(X)]^2 = \sigma^2 + \mu^2. \end{cases} \) 解得 \( \begin{cases} \mu = \mu_1,\\ \sigma^2 = \mu_2 - \mu_1^2. \end{cases} \) 分别以 \( A_1,A_2 \) 代替 \(\mu_1,\mu_2\),得 \(\mu\)\(\sigma^2\) 的矩估计量分别为 \( \hat{\mu} = A_1 = \overline{X}, \) \( \hat{\sigma}^2 = A_2 - A_1^2 = \frac{1}{n} \sum_{i=1}^{n}X_i^2 - \overline{X}^2 = \frac{1}{n} \sum_{i=1}^{n}(X_i - \overline{X})^2. \)

所得结果表明,总体均值与方差的矩估计量的表达式不因不同的总体分布而异。例如,\( X \sim N(\mu,\sigma^2),\mu,\sigma^2 \) 未知,即得 \(\mu,\sigma^2\) 的矩估计量为

\( \hat{\mu} = \bar{X}, \quad \hat{\sigma}^2 = \frac{1}{n}\sum_{i=1}^{n}(X_i - \bar{X})^2. \)

(二)最大似然估计法

若总体 \( X \) 属离散型,其分布律 \( P(X=x) = p(x;\theta), \theta \in \Theta \) 的形式为已知,\( \theta \) 为待估参数,\( \Theta \)\( \theta \) 可能取值的范围。设 \( X_1, X_2, \cdots, X_n \) 是来自 \( X \) 的样本,则 \( X_1, X_2, \cdots, X_n \) 的联合分布律为 \( \prod_{i=1}^{n}p(x_i;\theta). \) 又设 \( x_1, x_2, \cdots, x_n \) 是相应于样本 \( X_1, X_2, \cdots, X_n \) 的一个样本值。易知样本 \( X_1, X_2, \cdots, X_n \) 取到观察值 \( x_1, x_2, \cdots, x_n \) 的概率,亦即事件 \(\lbrace X_1 = x_1, X_2 = x_2, \cdots, X_n = x_n\rbrace\) 发生的概率为 \( L(\theta) = L(x_1, x_2, \cdots, x_n; \theta) = \prod_{i=1}^{n}p(x_i;\theta), \theta \in \Theta. ^{1.1} \) 这一概率随 \( \theta \) 的取值而变化,它是 \( \theta \) 的函数,\( L(\theta) \) 称为样本的似然函数(注意,这里 \( x_1, x_2, \cdots, x_n \) 是已知的样本值,它们都是常数)。

关于最大似然估计法,我们有以下的直观想法:现在已经取到样本值 \( x_1, x_2, \cdots, x_n \) 了,这表明取到这一样本值的概率 \( L(\theta) \) 比较大。我们当然不会考虑那些不能使样本 \( x_1, x_2, \cdots, x_n \) 出现的 \( \theta \in \Theta \) 作为 \( \theta \) 的估计,再者,如果已知当 \( \theta = \theta_0 \in \Theta \) 时使 \( L(\theta) \) 取得大值,而 \( \theta \) 中的其他 \( \theta \) 的值使 \( L(\theta) \) 取得小值,我们自然认为取 \( \theta_0 \) 作为未知参数 \( \theta \) 的估计值,较为合理。由费希尔 (R. A. Fisher) 引进的最大似然估计法,就是固定样本观察值 \( x_1, x_2, \cdots, x_n \),在 \( \theta \) 取值的可能范围 \( \Theta \) 内挑选使似然函数 \( L(x_1, x_2, \cdots, x_n; \theta) \) 达到最大的参数值 \( \hat{\theta} \),作为参数 \( \theta \) 的估计值。即取 \( \hat{\theta} \) 使 \( L(x_1, x_2, \cdots, x_n; \hat{\theta}) = \max_{\theta \in \Theta} L(x_1, x_2, \cdots, x_n; \theta). ^{1.2} \) 这样得到的 \( \hat{\theta} \) 与样本值 \( x_1, x_2, \cdots, x_n \) 有关,常记为 \( \hat{\theta}(x_1, x_2, \cdots, x_n) \),称为参数 \( \theta \) 的最大似然估计值,而相应的统计量 \( \hat{\theta}(X_1, X_2, \cdots, X_n) \) 称为参数 \( \theta \) 的最大似然估计量。

若总体 \( X \) 属连续型,其概率密度 \( f(x;\theta), \theta \in \Theta \) 的形式已知,\( \theta \) 为待估参数,\( \Theta \)\( \theta \) 可能取值的范围。设 \( X_1, X_2, \cdots, X_n \) 是来自 \( X \) 的样本,则 \( X_1, X_2, \cdots, X_n \) 的联合密度为 \( \prod_{i=1}^{n}f(x_i;\theta). \)\( x_1, x_2, \cdots, x_n \) 是相应于样本 \( X_1, X_2, \cdots, X_n \) 的一个样本值,则随机点 \( (X_1, X_2, \cdots, X_n) \) 落在点 \( (x_1, x_2, \cdots, x_n) \) 的邻域(边长分别为 \( dx_1, dx_2, \cdots, dx_n \) 的 n 维立方体)内的概率近似地为

\( \prod_{i=1}^{n} f(x_i; \theta) dx_i. ^{1.3} \)

其值随 \(\theta\) 的取值而变化。与离散型的情况一样,我们取 \(\theta\) 的估计值 \(\hat{\theta}\) 使概率 (1.3) 取到最大值,但因子 \(\prod_{i=1}^{n} dx_i\) 不随 \(\theta\) 而变,故只需考虑函数

\( L(\theta) = L(x_1, x_2, \cdots, x_n; \theta) = \prod_{i=1}^{n} f(x_i; \theta) ^{1.4} \)

的最大值。这里 \(L(\theta)\) 称为样本的似然函数。若

\( L(x_1, x_2, \cdots, x_n; \hat{\theta}) = \max_{\theta \in \Theta} L(x_1, x_2, \cdots, x_n; \theta), \)

则称 \(\hat{\theta}(x_1, x_2, \cdots, x_n)\)\(\theta\) 的最大似然估计值,称 \(\hat{\theta}(X_1, X_2, \cdots, X_n)\)\(\theta\) 的最大似然估计量。

这样,确定最大似然估计量的问题就归结为微分学中的求最大值的问题了。

在很多情形下,\(p(x; \theta)\)\(f(x; \theta)\) 关于 \(\theta\) 可微,这时 \(\hat{\theta}\) 常可从方程

\( \frac{d}{d\theta} L(\theta) = 0 ^{1.5} \)

解得①。又因 \(L(\theta)\)\(\ln L(\theta)\) 在同一 \(\theta\) 处取到极值,因此,\(\theta\) 的最大似然估计 \(\hat{\theta}\) 也可以从方程

\( \frac{d}{d\theta} \ln L(\theta) = 0 ^{1.6} \)

求得,而从后一方程求解往往比较方便。(1.6) 称为对数似然方程。

例 4\(X \sim b(1, p)\), \(X_1, X_2, \cdots, X_n\) 是来自 \(X\) 的一个样本,试求参数 \(p\) 的最大似然估计量。

\(x_1, x_2, \cdots, x_n\) 是相应于样本 \(X_1, X_2, \cdots, X_n\) 的一个样本值。\(X\) 的分布律为

\( P(X=x) = p^x(1-p)^{1-x}, \quad x=0,1. \)

故似然函数为

\( L(p) = \prod_{i=1}^{n} p^{x_i}(1-p)^{1-x_i} = p^{\sum_{i=1}^{n} x_i}(1-p)^{n - \sum_{i=1}^{n} x_i}, \)

\( \ln L(p) = (\sum_{i=1}^{n} x_i) \ln p + (n - \sum_{i=1}^{n} x_i) \ln (1-p), \)

\( \frac{d}{dp} \ln L(p) = \frac{\sum_{i=1}^{n} x_i}{p} - \frac{n - \sum_{i=1}^{n} x_i}{1-p} = 0, \)

解得

\( \hat{p} = \frac{1}{n} \sum_{i=1}^{n} x_i = \overline{x}. \)

① 这里没有提到 \(L(\theta)\) 取最大值的充分条件,但对于具体的函数是容易讨论的。

\( \prod_{i=1}^{n} f(x_i; \theta) dx_i. ^{1.3} \)

其值随 \(\theta\) 的取值而变化。与离散型的情况一样,我们取 \(\theta\) 的估计值 \(\hat{\theta}\) 使概率 (1.3) 取到最大值,但因子 \(\prod_{i=1}^{n} dx_i\) 不随 \(\theta\) 而变,故只需考虑函数

\( L(\theta) = L(x_1, x_2, \cdots, x_n; \theta) = \prod_{i=1}^{n} f(x_i; \theta) ^{1.4} \)

的最大值。这里 \(L(\theta)\) 称为样本的似然函数。若

\( L(x_1, x_2, \cdots, x_n; \hat{\theta}) = \max_{\theta \in \Theta} L(x_1, x_2, \cdots, x_n; \theta), \)

则称 \(\hat{\theta}(x_1, x_2, \cdots, x_n)\)\(\theta\) 的最大似然估计值,称 \(\hat{\theta}(X_1, X_2, \cdots, X_n)\)\(\theta\) 的最大似然估计量。

这样,确定最大似然估计量的问题就归结为微分学中的求最大值的问题了。

在很多情形下,\(p(x; \theta)\)\(f(x; \theta)\) 关于 \(\theta\) 可微,这时 \(\hat{\theta}\) 常可从方程

\( \frac{d}{d\theta} L(\theta) = 0 ^{1.5} \)

解得①。又因 \(L(\theta)\)\(\ln L(\theta)\) 在同一 \(\theta\) 处取到极值,因此,\(\theta\) 的最大似然估计 \(\hat{\theta}\) 也可以从方程

\( \frac{d}{d\theta} \ln L(\theta) = 0 ^{1.6} \)

求得,而从后一方程求解往往比较方便。(1.6) 称为对数似然方程。

例 4\(X \sim b(1, p)\)\(X_1, X_2, \cdots, X_n\) 是来自 \(X\) 的一个样本,试求参数 \(p\) 的最大似然估计量。

\(x_1, x_2, \cdots, x_n\) 是相应于样本 \(X_1, X_2, \cdots, X_n\) 的一个样本值。\(X\) 的分布律为

\( P(X=x) = p^x(1-p)^{1-x}, \quad x=0,1. \)

故似然函数为

\( L(p) = \prod_{i=1}^{n} p^{x_i}(1-p)^{1-x_i} = p^{\sum_{i=1}^{n} x_i}(1-p)^{n - \sum_{i=1}^{n} x_i}, \)

\( \ln L(p) = (\sum_{i=1}^{n} x_i) \ln p + (n - \sum_{i=1}^{n} x_i) \ln (1-p), \)

\( \frac{d}{dp} \ln L(p) = \frac{\sum_{i=1}^{n} x_i}{p} - \frac{n - \sum_{i=1}^{n} x_i}{1-p} = 0, \)

解得

\( \hat{p} = \frac{1}{n} \sum_{i=1}^{n} x_i = \overline{x}. \)

① 这里没有提到 \(L(\theta)\) 取最大值的充分条件,但对于具体的函数是容易讨论的。

解得 \( p \) 的最大似然估计值

\( \hat{p} = \frac{1}{n} \sum_{i=1}^{n} x_i = \bar{x}. \)

\( p \) 的最大似然估计量为

\( \hat{p} = \frac{1}{n} \sum_{i=1}^{n} X_i = \bar{X}. \)

我们看到这一估计量与矩估计量是相同的。 □

最大似然估计法也适用于分布中含多个未知参数 \(\theta_1, \theta_2, \cdots, \theta_k\) 的情况。这时,似然函数 \( L \) 是这些未知参数的函数。分别令

\( \frac{\partial}{\partial \theta_i} L = 0, \, i = 1, 2, \cdots, k \)

或令

\( \frac{\partial}{\partial \theta_i} \ln L = 0, \, i = 1, 2, \cdots, k. ^{1.7} \)

解上述由 \( k \) 个方程组成的方程组,即可得到各未知参数 \(\theta_i (i = 1, 2, \cdots, k)\) 的最大似然估计值 \(\hat{\theta_i}\)。(1.7)称为对数似然方程组。

例5\(X \sim N(\mu, \sigma^2)\), \(\mu, \sigma^2\) 为未知参数, \(x_1, x_2, \cdots, x_n\) 是来自 \(X\) 的一个样本值。求 \(\mu, \sigma^2\) 的最大似然估计量。

\(X\) 的概率密度为

\( f(x; \mu, \sigma^2) = \frac{1}{\sqrt{2\pi\sigma}} \exp \left[ -\frac{1}{2\sigma^2} (x - \mu)^2 \right], \)

似然函数为

\( L(\mu, \sigma^2) = \prod_{i=1}^{n} \frac{1}{\sqrt{2\pi\sigma}} \exp \left[ -\frac{1}{2\sigma^2} (x_i - \mu)^2 \right] \)

\( = (2\pi)^{-\frac{n}{2}} (\sigma^2)^{-\frac{n}{2}} \exp \left[ -\frac{1}{2\sigma^2} \sum_{i=1}^{n} (x_i - \mu)^2 \right]. \)

\( \ln L = -\frac{n}{2} \ln (2\pi) - \frac{n}{2} \ln \sigma^2 - \frac{1}{2\sigma^2} \sum_{i=1}^{n} (x_i - \mu)^2. \)

\( \begin{cases} \frac{\partial}{\partial \mu} \ln L = \frac{1}{\sigma^2} \left( \sum_{i=1}^{n} x_i - n\mu \right) = 0, \\ \frac{\partial}{\partial \sigma^2} \ln L = -\frac{n}{2\sigma^2} + \frac{1}{2(\sigma^2)^2} \sum_{i=1}^{n} (x_i - \mu)^2 = 0. \end{cases} \)

由前一式解得 \(\hat{\mu} = \frac{1}{n} \sum_{i=1}^{n} x_i = \bar{x}\), 代入后一式得 \(\hat{\sigma}^2 = \frac{1}{n} \sum_{i=1}^{n} (x_i - \bar{x})^2\). 因此得 \(\mu\)\(\sigma^2\) 的最大似然估计量分别为

\( \hat{\mu} = \bar{X}, \, \hat{\sigma}^2 = \frac{1}{n} \sum_{i=1}^{n} (X_i - \bar{X})^2. \)

它们与相应的矩估计量相同。 □

例6 设总体 \(X\)\([a,b]\) 上服从均匀分布,\(a,b\) 未知,\(x_1,x_2,\cdots,x_n\) 是一个样本值。试求 \(a,b\) 的最大似然估计量。

\(x_{(1)}=\min\lbrace x_1,x_2,\cdots,x_n\rbrace, x_{(n)}=\max\lbrace x_1,x_2,\cdots,x_n\rbrace\)\(X\) 的概率密度是 \( f(x;a,b)=\begin{cases} \frac{1}{b-a}, & a \leq x \leq b, \\ 0, & \text{其他}. \end{cases} \) 似然函数为 \( L(a,b)=\begin{cases} \frac{1}{(b-a)^n}, & a \leq x_1,x_2,\cdots,x_n \leq b, \\ 0, & \text{其他}. \end{cases} \) 由于 \(a \leq x_1,x_2,\cdots,x_n \leq b\),等价于 \(a \leq x_{(1)}, x_{(n)} \leq b\)。似然函数可写成 \( L(a,b)=\begin{cases} \frac{1}{(b-a)^n}, & a \leq x_{(1)}, b \geq x_{(n)}, \\ 0, & \text{其他}. \end{cases} \) 于是对于满足条件 \(a \leq x_{(1)}, b \geq x_{(n)}\) 的任意 \(a,b\)\( L(a,b)=\frac{1}{(b-a)^n} \leq \frac{1}{(x_{(n)} - x_{(1)})^n}. \)\(L(a,b)\)\(a=x_{(1)}, b=x_{(n)}\) 时取到最大值 \((x_{(n)} - x_{(1)})^{-n}\)。故 \(a,b\) 的最大似然估计值为 \( \hat{a}=x_{(1)}=\min_{1 \leq i \leq n} x_i, \quad \hat{b}=x_{(n)}=\max_{1 \leq i \leq n} x_i. \) \(a,b\) 的最大似然估计量为 \( \hat{a}=\min_{1 \leq i \leq n} X_i, \quad \hat{b}=\max_{1 \leq i \leq n} X_i. \)

此外,最大似然估计具有下述性质:设 \(\theta\) 的函数 \(u=u(\theta), \theta \in \Theta\) 具有单值反函数 \(\theta=\theta(u), u \in \mathbb{R}\)。又假设 \(\hat{\theta}\)\(X\) 的概率分布中参数 \(\theta\) 的最大似然估计,则 \(\hat{u}=u(\hat{\theta})\)\(u(\theta)\) 的最大似然估计。这一性质称为最大似然估计的不变性。

事实上,因为 \(\hat{\theta}\)\(\theta\) 的最大似然估计,于是有 \( L(x_1,x_2,\cdots,x_n;\hat{\theta})=\max_{\theta \in \Theta} L(x_1,x_2,\cdots,x_n;\hat{\theta}), \) 其中 \(x_1,x_2,\cdots,x_n\)\(X\) 的一个样本值,考虑到 \(\hat{u}=u(\hat{\theta})\),且有 \(\hat{\theta}=\theta(\hat{u})\),上述可写成 \( L(x_1,x_2,\cdots,x_n;\theta(\hat{u}))=\max_{u \in \mathbb{R}} L(x_1,x_2,\cdots,x_n;\theta(u)). \)

这就证明了 \(\hat{u}=u(\hat{\theta})\)\(u(\theta)\) 的最大似然估计。

当总体分布中含有多个未知参数时,也具有上述性质。例如,在例5中已得到 \(\sigma^2\) 的最大似然估计为 \( \hat{\sigma}^2 = \frac{1}{n} \sum_{i=1}^{n} (X_i - \overline{X})^2. \) 函数 \(u = u(\sigma^2) = \sqrt{\sigma^2}\) 有单值反函数 \(\sigma^2 = u^2 (u \geq 0)\),根据上述性质,得到标准差 \(\sigma\) 的最大似然估计为 \( \hat{\sigma} = \sqrt{\hat{\sigma}^2} = \sqrt{\frac{1}{n} \sum_{i=1}^{n} (X_i - \overline{X})^2}. \)

我们还要提到的是,对数似然方程(1.6)或对数似然方程组(1.7)除了一些简单的情况外,往往没有有限函数形式的解,这就需要用数值方法求近似解。常用的算法是牛顿-拉弗森(Newton-Raphson)算法,对于(1.7)有时也用拟牛顿算法,它们都是迭代算法,读者可参考有关的参考书。

选择题

  1. 在参数估计中,点估计的目的是什么?

    • A. 估计参数的区间

    • B. 估计参数的值

    • C. 进行假设检验

    • D. 计算样本均值

    答案:B 解释: 点估计的目的是估计参数的值。

  2. 在矩估计法中,我们使用什么来估计总体矩?

    • A. 样本矩

    • B. 总体矩

    • C. 样本均值

    • D. 样本方差

    答案:A 解释: 在矩估计法中,我们使用样本矩来估计总体矩。

  3. 在最大似然估计法中,似然函数是什么?

    • A. 样本的联合分布律

    • B. 样本的联合密度函数

    • C. 样本的联合分布律或联合密度函数

    • D. 样本的均值

    答案:C 解释: 在最大似然估计法中,似然函数是样本的联合分布律或联合密度函数。

  4. 在最大似然估计法中,如何选择参数的估计值?

    • A. 使似然函数最小化

    • B. 使似然函数最大化

    • C. 使样本均值最大化

    • D. 使样本方差最小化

    答案:B 解释: 在最大似然估计法中,选择参数的估计值使似然函数最大化。

  5. 在矩估计法中,如何求解未知参数?

    • A. 通过求解样本矩的方程

    • B. 通过求解总体矩的方程

    • C. 通过求解样本均值的方程

    • D. 通过求解样本方差的方程

    答案:A 解释: 在矩估计法中,通过求解样本矩的方程来求解未知参数。

  6. 在最大似然估计法中,对数似然方程是什么?

    • A. \(\frac{d}{d\theta} L(\theta) = 0\)

    • B. \(\frac{d}{d\theta} \ln L(\theta) = 0\)

    • C. \(\frac{d}{d\theta} \ln f(x; \theta) = 0\)

    • D. \(\frac{d}{d\theta} f(x; \theta) = 0\)

    答案:B 解释: 在最大似然估计法中,对数似然方程是 \(\frac{d}{d\theta} \ln L(\theta) = 0\)

  7. 在矩估计法中,总体均值的矩估计量是什么?

    • A. 样本均值

    • B. 样本方差

    • C. 样本标准差

    • D. 样本中位数

    答案:A 解释: 在矩估计法中,总体均值的矩估计量是样本均值。

  8. 在最大似然估计法中,如果总体分布中含有多个未知参数,如何求解这些参数?

    • A. 通过求解单个方程

    • B. 通过求解对数似然方程组

    • C. 通过求解样本矩的方程

    • D. 通过求解样本均值的方程

    答案:B 解释: 在最大似然估计法中,如果总体分布中含有多个未知参数,通过求解对数似然方程组来求解这些参数。

  9. 在矩估计法中,总体方差的矩估计量是什么?

    • A. 样本方差

    • B. 样本均值

    • C. 样本标准差

    • D. 样本中位数

    答案:A 解释: 在矩估计法中,总体方差的矩估计量是样本方差。

  10. 在最大似然估计法中,如果总体分布是正态分布,如何估计均值和方差?

    • A. 通过求解样本均值和样本方差

    • B. 通过求解对数似然方程

    • C. 通过求解样本矩的方程

    • D. 通过求解样本中位数的方程

    答案:B 解释: 在最大似然估计法中,如果总体分布是正态分布,通过求解对数似然方程来估计均值和方差。

  11. 在矩估计法中,总体均值的矩估计量与最大似然估计量是否相同?

    • A. 相同

    • B. 不同

    • C. 有时相同,有时不同

    • D. 取决于样本大小

    答案:A 解释: 在矩估计法中,总体均值的矩估计量与最大似然估计量相同。

  12. 在最大似然估计法中,如何处理对数似然方程没有有限函数形式的解的情况?

    • A. 使用数值方法求近似解

    • B. 使用样本均值代替

    • C. 使用样本方差代替

    • D. 使用样本中位数代替

    答案:A 解释: 在最大似然估计法中,如果对数似然方程没有有限函数形式的解,使用数值方法求近似解。

  13. 在矩估计法中,总体均值的矩估计量是否依赖于总体分布?

    • A. 依赖

    • B. 不依赖

    • C. 有时依赖,有时不依赖

    • D. 取决于样本大小

    答案:B 解释: 在矩估计法中,总体均值的矩估计量不依赖于总体分布。

  14. 在最大似然估计法中,如何处理对数似然方程组?

    • A. 通过求解单个方程

    • B. 通过求解对数似然方程组

    • C. 通过求解样本矩的方程

    • D. 通过求解样本均值的方程

    答案:B 解释: 在最大似然估计法中,通过求解对数似然方程组来处理对数似然方程组。

  15. 在矩估计法中,总体方差的矩估计量是否依赖于总体分布?

    • A. 依赖

    • B. 不依赖

    • C. 有时依赖,有时不依赖

    • D. 取决于样本大小

    答案:B 解释: 在矩估计法中,总体方差的矩估计量不依赖于总体分布。

  16. 在最大似然估计法中,如何处理对数似然方程的数值解?

    • A. 使用数值方法求近似解

    • B. 使用样本均值代替

    • C. 使用样本方差代替

    • D. 使用样本中位数代替

    答案:A 解释: 在最大似然估计法中,使用数值方法求近似解来处理对数似然方程的数值解。

  17. 在矩估计法中,总体均值的矩估计量是否与样本大小有关?

    • A. 有关

    • B. 无关

    • C. 有时有关,有时无关

    • D. 取决于总体分布

    答案:A 解释: 在矩估计法中,总体均值的矩估计量与样本大小有关。

  18. 在最大似然估计法中,如何处理对数似然方程组的数值解?

    • A. 使用数值方法求近似解

    • B. 使用样本均值代替

    • C. 使用样本方差代替

    • D. 使用样本中位数代替

    答案:A 解释: 在最大似然估计法中,使用数值方法求近似解来处理对数似然方程组的数值解。

  19. 在矩估计法中,总体方差的矩估计量是否与样本大小有关?

    • A. 有关

    • B. 无关

    • C. 有时有关,有时无关

    • D. 取决于总体分布

    答案:A 解释: 在矩估计法中,总体方差的矩估计量与样本大小有关。

  20. 在最大似然估计法中,如何处理对数似然方程的解析解?

    • A. 通过求解对数似然方程

    • B. 通过求解样本均值的方程

    • C. 通过求解样本方差的方程

    • D. 通过求解样本中位数的方程

    答案:A 解释: 在最大似然估计法中,通过求解对数似然方程来处理对数似然方程的解析解。

\(\theta\))的最大似然估计,所以选A。

  1. 设总体 \(X\) 的分布函数为 \(F(x;\theta)\)\(\theta\) 是待估参数,\(X_1,X_2,\cdots,X_n\)\(X\) 的一个样本,点估计问题就是要构造一个适当的统计量 \(\hat{\theta}(X_1,X_2,\cdots,X_n)\),用它的观察值 \(\hat{\theta}(x_1,x_2,\cdots,x_n)\) 作为未知参数 \(\theta\) 的近似值,这里的 \(\hat{\theta}(X_1,X_2,\cdots,X_n)\) 称为( )。 A. 待估参数 B. 总体参数 C. 估计值 D. 估计量 答案:D 解释:根据点估计的定义,构造的统计量 \(\hat{\theta}(X_1,X_2,\cdots,X_n)\) 称为估计量,其观察值 \(\hat{\theta}(x_1,x_2,\cdots,x_n)\) 称为估计值,所以这里选D。

  2. 在某炸药制造厂,一天中发生着火现象的次数 \(X\) 是一个随机变量,假设它服从以 \(\lambda>0\) 为参数的泊松分布,参数 \(\lambda\) 为未知。现要估计参数 \(\lambda\),可以自然想到用( )来估计总体的均值 \(E(X)\)。 A. 样本方差 B. 样本均值 C. 总体方差 D. 总体均值 答案:B 解释:在已知 \(X\sim\pi(\lambda)\) ,因为 \(\lambda = E(X)\),所以自然想到用样本均值来估计总体的均值 \(E(X)\),进而估计参数 \(\lambda\),选B。

  3. 对于总体 \(X\) 属连续型,其概率密度为 \(f(x;\theta_1,\theta_2,\cdots,\theta_k)\),矩估计法中总体 \(X\) 的前 \(k\) 阶矩 \(\mu_l\) 的计算公式(当 \(X\) 为连续型)为( )。 A. \(\mu_l = \sum_{x\in R_X} x^l p(x;\theta_1,\theta_2,\cdots,\theta_k)\) B. \(\mu_l = E(X^l) = \int_{-\infty}^{\infty} x^l f(x;\theta_1,\theta_2,\cdots,\theta_k) dx\) C. \(\mu_l = \frac{1}{n} \sum_{i=1}^{n} X_i^l\) D. \(\mu_l = \frac{1}{n} \sum_{i=1}^{n} (X_i - \overline{X})^l\) 答案:B 解释:当总体 \(X\) 为连续型随机变量,其概率密度为 \(f(x;\theta_1,\theta_2,\cdots,\theta_k)\) 时,总体 \(X\) 的前 \(k\) 阶矩 \(\mu_l\) 的计算公式为 \(\mu_l = E(X^l) = \int_{-\infty}^{\infty} x^l f(x;\theta_1,\theta_2,\cdots,\theta_k) dx\),所以选B。

  4. 设总体 \(X\sim N(\mu,\sigma^2)\)\(\mu,\sigma^2\) 为未知参数,\(x_1,x_2,\cdots,x_n\) 是来自 \(X\) 的一个样本值,用最大似然估计法求 \(\sigma^2\) 的最大似然估计量为( )。 A. \(\hat{\sigma}^2 = \frac{1}{n} \sum_{i=1}^{n} x_i^2\) B. \(\hat{\sigma}^2 = \frac{1}{n} \sum_{i=1}^{n} X_i^2\) C. \(\hat{\sigma}^2 = \frac{1}{n} \sum_{i=1}^{n} (x_i - \overline{x})^2\) D. \(\hat{\sigma}^2 = \frac{1}{n} \sum_{i=1}^{n} (X_i - \overline{X})^2\) 答案:D 解释:对总体 \(X\sim N(\mu,\sigma^2)\) 运用最大似然估计法的计算步骤,可求得 \(\sigma^2\) 的最大似然估计量为 \(\hat{\sigma}^2 = \frac{1}{n} \sum_{i=1}^{n} (X_i - \overline{X})^2\),所以选D。

  5. 若总体 \(X\) 属离散型,其分布律 \(P(X=x)=p(x;\theta)\),要确定参数 \(\theta\) 的最大似然估计量,在很多情形下,可从方程( )解得。 A. \(\frac{d}{d\theta} L(\theta) = 0\)\(\frac{d}{d\theta} \ln L(\theta) = 0\) B. \(\frac{\partial}{\partial \theta} L(\theta) = 0\)\(\frac{\partial}{\partial \theta} \ln L(\theta) = 0\) C. \(\frac{d}{d\theta} L(\theta) = 1\)\(\frac{d}{d\theta} \ln L(\theta) = 1\) D. \(\frac{\partial}{\partial \theta} L(\theta) = 1\)\(\frac{\partial}{\partial \theta} \ln L(\theta) = 1\) 答案:A 解释:若总体 \(X\) 属离散型,要确定参数 \(\theta\) 的最大似然估计量,在很多情形下,可从方程 \(\frac{d}{d\theta} L(\theta) = 0\)\(\frac{d}{d\theta} \ln L(\theta) = 0\) 解得,所以选A。

  6. 设总体 \(X\)\([a,b]\) 上服从均匀分布,\(a,b\) 未知,用矩估计法求 \(b\) 的矩估计量为( )。 A. \(\hat{b} = \overline{X} - \sqrt{\frac{3}{n} \sum_{i=1}^{n}(X_i - \overline{X})^2}\) B. \(\hat{b} = \overline{X} + \sqrt{\frac{3}{n} \sum_{i=1}^{n}(X_i - \overline{X})^2}\) C. \(\hat{b} = \frac{1}{n} \sum_{i=1}^{n} X_i - \sqrt{\frac{3}{n} \sum_{i=1}^{n}(X_i - \overline{X})^2}\) D. \(\hat{b} = \frac{1}{n} \sum_{i=1}^{n} X_i + \sqrt{\frac{3}{n} \sum_{i=1}^{n}(X_i - \overline{X})^2}\) 答案:B 解释:根据总体 \(X\)\([a,b]\) 上服从均匀分布时求矩估计量的步骤,\(b\) 的矩估计量为 \(\hat{b} = \overline{X} + \sqrt{\frac{3}{n} \sum_{i=1}^{n}(X_i - \overline{X})^2}\),所以选B。

以下是 30 个关于参数估计知识点的选择题:

一、选择题

(一)基础概念与问题引入

  1. 统计推断的核心任务不包括以下哪一项?( ) A. 参数估计 B. 数据收集 C. 假设检验 D. 对总体特征进行推断 答案:B 解释:统计推断主要包括参数估计和假设检验,目的是对总体特征进行推断,数据收集是前期工作,不属于核心任务,所以选 B。

  2. 在参数估计问题中,已知条件通常是( )。 A. 总体的所有参数和样本数据 B. 总体分布函数形式及样本数据,部分参数未知 C. 仅样本数据,总体分布函数形式未知 D. 仅总体分布函数形式,无样本数据 答案:B 解释:参数估计是在总体分布函数形式已知,但一个或多个参数未知的情况下,借助样本数据进行估计,所以选 B。

  3. 对于一个总体参数的点估计,以下哪种说法是正确的?( ) A. 点估计值是唯一确定的,与样本无关 B. 点估计值是总体参数的真实值 C. 点估计是用一个统计量的观察值作为总体参数的近似值 D. 点估计量是一个固定的数值 答案:C 解释:点估计是构造一个统计量(估计量),用其观察值(估计值)作为未知参数的近似值,不同样本可能得到不同的估计值,且只是近似值不是真实值,估计量是样本的函数不是固定数值,所以选 C。

(二)矩估计法

  1. 矩估计法中,总体的一阶矩通常与以下哪个总体参数相关?( ) A. 方差 B. 均值 C. 标准差 D. 中位数 答案:B 解释:总体的一阶矩就是均值,所以用矩估计法时,一阶矩通常与总体均值相关,选 B。

  2. 设总体 \(X\) 的概率密度函数为 \(f(x)=\frac{1}{\theta}e^{-\frac{x}{\theta}},x>0\)\(\theta>0\) 未知,用矩估计法求 \(\theta\) 的估计量,设 \(X_1,X_2,\cdots,X_n\) 是来自 \(X\) 的样本,则 \(\hat{\theta}=\)( )。 A. \(\overline{X}\) B. \(\frac{1}{\overline{X}}\) C. \(2\overline{X}\) D. \(\frac{1}{2}\overline{X}\) 答案:A 解释:先求总体一阶矩 \(E(X)=\int_{0}^{\infty}x\cdot\frac{1}{\theta}e^{-\frac{x}{\theta}}dx=\theta\),根据矩估计法,用样本均值 \(\overline{X}\) 估计总体均值,即 \(\hat{\theta}=\overline{X}\),所以选 A。

  3. 若总体 \(X\) 服从二项分布 \(B(m,p)\)\(m\) 已知,\(p\) 未知),\(X_1,X_2,\cdots,X_n\) 是样本,用矩估计法求 \(p\) 的估计量为( )。 A. \(\hat{p}=\frac{1}{n}\sum_{i=1}^{n}X_i\) B. \(\hat{p}=\frac{\sum_{i=1}^{n}X_i}{mn}\) C. \(\hat{p}=\frac{1}{m}\overline{X}\) D. \(\hat{p}=\frac{\overline{X}}{n}\) 答案:B 解释:总体 \(X\sim B(m,p)\) 的均值 \(E(X)=mp\),由矩估计法,\(mp\) 用样本均值 \(\overline{X}\) 估计,即 \(mp=\overline{X}\),解得 \(\hat{p}=\frac{\overline{X}}{m}=\frac{\sum_{i=1}^{n}X_i}{mn}\),所以选 B。

  4. 矩估计法的理论依据是( )。 A. 大数定律 B. 中心极限定理 C. 样本矩依概率收敛于相应总体矩 D. 正态分布的性质 答案:C 解释:矩估计法基于样本矩依概率收敛于相应总体矩,所以选 C。

(三)最大似然估计法

  1. 对于总体 \(X\) 服从参数为 \(\lambda\) 的指数分布,其概率密度函数 \(f(x)=\lambda e^{-\lambda x},x>0\),设 \(X_1,X_2,\cdots,X_n\) 是样本,似然函数 \(L(\lambda)=\)( )。 A. \(\lambda^n e^{-\lambda\sum_{i=1}^{n}x_i}\) B. \(\lambda e^{-\lambda\sum_{i=1}^{n}x_i}\) C. \(\lambda^n e^{-\lambda x_i}\) D. \(\lambda e^{-\lambda x_i}\) 答案:A 解释:样本 \(X_1,X_2,\cdots,X_n\) 的联合概率密度即似然函数 \(L(\lambda)=\prod_{i=1}^{n}\lambda e^{-\lambda x_i}=\lambda^n e^{-\lambda\sum_{i=1}^{n}x_i}\),所以选 A。

  2. 设总体 \(X\) 服从正态分布 \(N(\mu,\sigma^2)\)\(\mu\)\(\sigma^2\) 未知,\(x_1,x_2,\cdots,x_n\) 是样本值,对数似然方程 \(\frac{\partial}{\partial\mu}\ln L(\mu,\sigma^2)=0\) 的解为( )。 A. \(\hat{\mu}=\frac{1}{n}\sum_{i=1}^{n}x_i\) B. \(\hat{\mu}=\frac{1}{n}\sum_{i=1}^{n}(x_i-\overline{x})^2\) C. \(\hat{\mu}=\sqrt{\frac{1}{n}\sum_{i=1}^{n}(x_i-\overline{x})^2}\) D. \(\hat{\mu}=\frac{1}{n}\sum_{i=1}^{n}x_i^2\) 答案:A 解释:先写出似然函数 \(L(\mu,\sigma^2)\),再求对数似然函数 \(\ln L(\mu,\sigma^2)\),对 \(\mu\) 求偏导并令其为 0,解得 \(\hat{\mu}=\frac{1}{n}\sum_{i=1}^{n}x_i\),所以选 A。

  3. 总体 \(X\) 服从均匀分布 \(U(a,b)\)\(a\)\(b\) 未知,\(x_1,x_2,\cdots,x_n\) 是样本值,最大似然估计法求得 \(a\) 的估计值为( )。 A. \(\min\lbrace x_1,x_2,\cdots,x_n\rbrace\) B. \(\max\lbrace x_1,x_2,\cdots,x_n\rbrace\) C. \(\frac{1}{n}\sum_{i=1}^{n}x_i-\sqrt{\frac{3}{n}\sum_{i=1}^{n}(x_i-\overline{x})^2}\) D. \(\frac{1}{n}\sum_{i=1}^{n}x_i+\sqrt{\frac{3}{n}\sum_{i=1}^{n}(x_i-\overline{x})^2}\) 答案:A 解释:根据均匀分布最大似然估计的求解过程,\(a\) 的最大似然估计值为 \(\min\lbrace x_1,x_2,\cdots,x_n\rbrace\),所以选 A。

  4. 设总体 \(X\) 的分布律为 \(P(X = k)=\frac{\theta^k e^{-\theta}}{k!},k = 0,1,2,\cdots\)\(\theta>0\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,最大似然估计量 \(\hat{\theta}=\)( )。 A. \(\overline{X}\) B. \(\frac{1}{\overline{X}}\) C. \(\sum_{i=1}^{n}X_i\) D. \(\frac{1}{n}\sum_{i=1}^{n}X_i\) 答案:A 解释:写出似然函数 \(L(\theta)=\prod_{i=1}^{n}\frac{\theta^{x_i}e^{-\theta}}{x_i!}\),取对数后求导并令导数为 0,解得 \(\hat{\theta}=\overline{X}\),所以选 A。

  5. 最大似然估计法中,似然函数取最大值的点对应的参数值作为估计值的原因是( )。 A. 该点使样本出现的概率最大 B. 该点使总体分布最均匀 C. 该点使样本方差最小 D. 该点使总体均值最大 答案:A 解释:最大似然估计法的直观想法是取到样本值后,使样本取到该观察值概率(似然函数)最大的参数值作为估计值,所以选 A。

(四)综合类

  1. 对于同一总体参数,矩估计量和最大似然估计量( )。 A. 一定相同 B. 一定不同 C. 可能相同也可能不同 D. 无法比较 答案:C 解释:如某些分布(如正态分布、二项分布在特定条件下)的参数,其矩估计量和最大似然估计量相同,但有些分布则不同,所以选 C。

  2. 设总体 \(X\) 服从几何分布 \(P(X = k)=p(1 - p)^{k - 1},k = 1,2,\cdots\)\(p\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,用矩估计法求 \(p\) 的估计量为( )。 A. \(\hat{p}=\frac{1}{\overline{X}}\) B. \(\hat{p}=\overline{X}\) C. \(\hat{p}=\frac{1}{1+\overline{X}}\) D. \(\hat{p}=\frac{1}{1-\overline{X}}\) 答案:C 解释:先求总体 \(X\) 的均值 \(E(X)=\frac{1}{p}\),根据矩估计法,\(\frac{1}{p}=\overline{X}\),解得 \(\hat{p}=\frac{1}{1+\overline{X}}\),所以选 C。

  3. 已知总体 \(X\) 的分布函数 \(F(x;\theta)\)\(\theta\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,若 \(\hat{\theta}_1\)\(\hat{\theta}_2\) 都是 \(\theta\) 的无偏估计量,且 \(D(\hat{\theta}_1)<D(\hat{\theta}_2)\),则( )。 A. \(\hat{\theta}_1\)\(\hat{\theta}_2\) 更有效 B. \(\hat{\theta}_2\)\(\hat{\theta}_1\) 更有效 C. \(\hat{\theta}_1\)\(\hat{\theta}_2\) 有效性相同 D. 无法判断两者有效性 答案:A 解释:在无偏估计量中,方差越小越有效,因为 \(D(\hat{\theta}_1)<D(\hat{\theta}_2)\),所以 \(\hat{\theta}_1\)\(\hat{\theta}_2\) 更有效,选 A。

  4. 设总体 \(X\) 服从泊松分布 \(P(\lambda)\)\(\lambda\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,若用矩估计法和最大似然估计法求 \(\lambda\) 的估计量,结果分别为 \(\hat{\lambda}_1\)\(\hat{\lambda}_2\),则( )。 A. \(\hat{\lambda}_1=\hat{\lambda}_2=\overline{X}\) B. \(\hat{\lambda}_1=\overline{X},\hat{\lambda}_2=\frac{1}{n}\sum_{i=1}^{n}X_i^2\) C. \(\hat{\lambda}_1=\frac{1}{n}\sum_{i=1}^{n}X_i^2,\hat{\lambda}_2=\overline{X}\) D. \(\hat{\lambda}_1=\frac{1}{n}\sum_{i=1}^{n}(X_i-\overline{X})^2,\hat{\lambda}_2=\overline{X}\) 答案:A 解释:对于泊松分布,矩估计法和最大似然估计法求得的 \(\lambda\) 的估计量均为样本均值 \(\overline{X}\),所以选 A。

  5. 总体 \(X\) 服从正态分布 \(N(\mu,\sigma^2)\)\(\sigma^2\) 已知,\(\mu\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,以下关于 \(\mu\) 的估计量中,不是无偏估计量的是( )。 A. \(\hat{\mu}_1=\overline{X}\) B. \(\hat{\mu}_2=\frac{1}{2}(X_1+X_2)\) C. \(\hat{\mu}_3=\sum_{i=1}^{n}a_iX_i\)\(\sum_{i=1}^{n}a_i = 1\)) D. \(\hat{\mu}_4=X_1\) 答案:B 解释:\(E(\hat{\mu}_1)=E(\overline{X})=\mu\)\(E(\hat{\mu}_3)=\sum_{i=1}^{n}a_iE(X_i)=\mu\sum_{i=1}^{n}a_i=\mu\)\(E(\hat{\mu}_4)=E(X_1)=\mu\),而 \(E(\hat{\mu}_2)=\frac{1}{2}(E(X_1)+E(X_2))=\mu\) 不恒成立,所以选 B。

  6. 设总体 \(X\) 的均值 \(\mu\) 和方差 \(\sigma^2\) 都存在且未知,\(X_1,X_2,\cdots,X_n\) 是样本,若 \(\hat{\sigma}^2=\frac{1}{n}\sum_{i=1}^{n}(X_i-\overline{X})^2\)\(\sigma^2\) 的矩估计量,那么 \(E(\hat{\sigma}^2)=\)( )。 A. \(\sigma^2\) B. \(\frac{n - 1}{n}\sigma^2\) C. \(\frac{n}{n - 1}\sigma^2\) D. \(n\sigma^2\) 答案:B 解释:\(E(\hat{\sigma}^2)=\frac{n - 1}{n}\sigma^2\),这是样本方差的无偏性修正的相关结论,所以选 B。

  7. 总体 \(X\) 服从均匀分布 \(U(0,\theta)\)\(\theta\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,用矩估计法求 \(\theta\) 的估计量为( )。 A. \(\hat{\theta}=2\overline{X}\) B. \(\hat{\theta}=\overline{X}\) C. \(\hat{\theta}=\frac{1}{2}\overline{X}\) D. \(\hat{\theta}=\sqrt{\overline{X}}\) 答案:A 解释:总体 \(X\sim U(0,\theta)\) 的均值 \(E(X)=\frac{\theta}{2}\),由矩估计法,\(\frac{\theta}{2}=\overline{X}\),解得 \(\hat{\theta}=2\overline{X}\),所以选 A。

  8. 设总体 \(X\) 服从指数分布 \(E(\lambda)\)\(\lambda\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,若 \(\hat{\lambda}\)\(\lambda\) 的最大似然估计量,则 \(D(\hat{\lambda})=\)( )。 A. \(\frac{1}{n\lambda^2}\) B. \(\lambda^2\) C. \(\frac{\lambda^2}{n}\) D. \(\frac{n}{\lambda^2}\) 答案:C 解释:对于指数分布 \(E(\lambda)\) 的最大似然估计量 \(\hat{\lambda}=\frac{1}{\overline{X}}\),且 \(D(\hat{\lambda})=\frac{\lambda^2}{n}\),所以选 C。

  9. 总体 \(X\) 服从伽马分布 \(Ga(\alpha,\lambda)\)\(\alpha\) 已知,\(\lambda\) 未知),\(X_1,X_2,\cdots,X_n\) 是样本,用最大似然估计法求 \(\lambda\) 的估计量,需要求解( )。 A. 一个对数似然方程 B. 两个对数似然方程 C. 一个普通似然方程 D. 两个普通似然方程

答案:A 解释:对于总体 \(X\) 服从伽马分布 \(Ga(\alpha,\lambda)\)\(\alpha\) 已知,\(\lambda\) 未知),似然函数是关于 \(\lambda\) 的函数,只需要求解一个对数似然方程 \(\frac{\partial}{\partial\lambda}\ln L(\lambda)=0\) 来得到 \(\lambda\) 的最大似然估计量,所以选 A。

  1. 设总体 \(X\) 服从二项分布 \(B(n,p)\)\(n\) 已知,\(p\) 未知,\(X_1,X_2,\cdots,X_m\) 是样本,若用矩估计法求 \(p\) 的估计量,是基于总体的( )阶矩。 A. 一 B. 二 C. 一和二 D. 以上都不对

答案:A 解释:对于二项分布 \(B(n,p)\),用矩估计法求 \(p\) 的估计量时,利用总体的一阶矩 \(E(X)=np\),用样本均值来估计总体均值,从而得到 \(p\) 的估计量,所以基于一阶矩,选 A。

  1. 总体 \(X\) 服从正态分布 \(N(\mu,\sigma^2)\)\(\mu\)\(\sigma^2\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,在求 \(\mu\)\(\sigma^2\) 的最大似然估计量过程中,对数似然函数 \(\ln L(\mu,\sigma^2)\)\(\mu\)\(\sigma^2\) 的偏导数分别为( )。 A. \(\frac{\partial}{\partial\mu}\ln L(\mu,\sigma^2)=\frac{1}{\sigma^2}\sum_{i=1}^{n}(x_i-\mu)\)\(\frac{\partial}{\partial\sigma^2}\ln L(\mu,\sigma^2)=-\frac{n}{2\sigma^2}+\frac{1}{2(\sigma^2)^2}\sum_{i=1}^{n}(x_i-\mu)^2\) B. \(\frac{\partial}{\partial\mu}\ln L(\mu,\sigma^2)=\frac{1}{\sigma^2}\sum_{i=1}^{n}(x_i-\mu)\)\(\frac{\partial}{\partial\sigma^2}\ln L(\mu,\sigma^2)=\frac{n}{2\sigma^2}-\frac{1}{2(\sigma^2)^2}\sum_{i=1}^{n}(x_i-\mu)^2\) C. \(\frac{\partial}{\partial\mu}\ln L(\mu,\sigma^2)=-\frac{1}{\sigma^2}\sum_{i=1}^{n}(x_i-\mu)\)\(\frac{\partial}{\partial\sigma^2}\ln L(\mu,\sigma^2)=-\frac{n}{2\sigma^2}+\frac{1}{2(\sigma^2)^2}\sum_{i=1}^{n}(x_i-\mu)^2\) D. \(\frac{\partial}{\partial\mu}\ln L(\mu,\sigma^2)=-\frac{1}{\sigma^2}\sum_{i=1}^{n}(x_i-\mu)\)\(\frac{\partial}{\partial\sigma^2}\ln L(\mu,\sigma^2)=\frac{n}{2\sigma^2}-\frac{1}{2(\sigma^2)^2}\sum_{i=1}^{n}(x_i-\mu)^2\)

答案:A 解释:先写出正态分布的似然函数 \(L(\mu,\sigma^2)\),再求对数似然函数 \(\ln L(\mu,\sigma^2)\),然后分别对 \(\mu\)\(\sigma^2\) 求偏导可得上述结果,所以选 A。

  1. 设总体 \(X\) 的分布函数为 \(F(x;\theta_1,\theta_2)\)\(\theta_1\)\(\theta_2\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,矩估计法中需要建立关于 \(\theta_1\)\(\theta_2\) 的方程组,方程组的个数为( )。 A. 1 B. 2 C. \(n\) D. 与 \(n\) 有关

答案:B 解释:因为有两个未知参数 \(\theta_1\)\(\theta_2\),所以需要建立两个方程组成的方程组,分别用总体的一阶矩和二阶矩与样本矩建立等式关系,所以选 B。

  1. 总体 \(X\) 服从均匀分布 \(U(a,b)\)\(a\)\(b\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,用最大似然估计法求 \(b\) 的估计量为( )。 A. \(\hat{b}=\max\lbrace X_1,X_2,\cdots,X_n\rbrace\) B. \(\hat{b}=\min\lbrace X_1,X_2,\cdots,X_n\rbrace\) C. \(\hat{b}=\overline{X}+\sqrt{\frac{3}{n}\sum_{i=1}^{n}(X_i-\overline{X})^2}\) D. \(\hat{b}=\overline{X}-\sqrt{\frac{3}{n}\sum_{i=1}^{n}(X_i-\overline{X})^2}\)

答案:A 解释:根据均匀分布 \(U(a,b)\) 的最大似然估计求解过程,\(b\) 的最大似然估计量为 \(\hat{b}=\max\lbrace X_1,X_2,\cdots,X_n\rbrace\),所以选 A。

  1. 设总体 \(X\) 服从参数为 \(\lambda\) 的泊松分布,\(X_1,X_2,\cdots,X_n\) 是样本,若已知样本值 \(x_1,x_2,\cdots,x_n\),似然函数 \(L(\lambda)\) 是关于 \(\lambda\) 的( )。 A. 线性函数 B. 指数函数 C. 多项式函数 D. 以上都不对

答案:B 解释:总体 \(X\) 服从泊松分布时,似然函数 \(L(\lambda)=\prod_{i=1}^{n}\frac{\lambda^{x_i}e^{-\lambda}}{x_i!}=\lambda^{\sum_{i=1}^{n}x_i}e^{-n\lambda}\prod_{i=1}^{n}\frac{1}{x_i!}\),是关于 \(\lambda\) 的指数函数,所以选 B。

  1. 总体 \(X\) 服从正态分布 \(N(\mu,\sigma^2)\)\(\mu\) 已知,\(\sigma^2\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,用最大似然估计法求 \(\sigma^2\) 的估计量为( )。 A. \(\hat{\sigma}^2=\frac{1}{n}\sum_{i=1}^{n}(X_i-\mu)^2\) B. \(\hat{\sigma}^2=\frac{1}{n - 1}\sum_{i=1}^{n}(X_i-\mu)^2\) C. \(\hat{\sigma}^2=\frac{1}{n}\sum_{i=1}^{n}(X_i-\overline{X})^2\) D. \(\hat{\sigma}^2=\frac{1}{n - 1}\sum_{i=1}^{n}(X_i-\overline{X})^2\)

答案:A 解释:当 \(\mu\) 已知时,写出似然函数并求对数似然函数,对 \(\sigma^2\) 求偏导并令其为 0,可解得 \(\hat{\sigma}^2=\frac{1}{n}\sum_{i=1}^{n}(X_i-\mu)^2\),所以选 A。

  1. 设总体 \(X\) 的概率密度函数为 \(f(x)=\frac{2(\theta - x)}{\theta^2},0<x<\theta\)\(\theta\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,用矩估计法求 \(\theta\) 的估计量为( )。 A. \(\hat{\theta}=\frac{3}{2}\overline{X}\) B. \(\hat{\theta}=\frac{2}{3}\overline{X}\) C. \(\hat{\theta}=3\overline{X}\) D. \(\hat{\theta}=\overline{X}\)

答案:A 解释:先求总体 \(X\) 的一阶矩 \(E(X)=\int_{0}^{\theta}x\cdot\frac{2(\theta - x)}{\theta^2}dx=\frac{\theta}{3}\),根据矩估计法,\(\frac{\theta}{3}=\overline{X}\),解得 \(\hat{\theta}=\frac{3}{2}\overline{X}\),所以选 A。

  1. 总体 \(X\) 服从对数正态分布 \(LN(\mu,\sigma^2)\)\(\mu\)\(\sigma^2\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,在求最大似然估计量时,通常先对( )进行变换。 A. 样本数据 B. 总体分布函数 C. 似然函数 D. 以上都不对

答案:A 解释:对于对数正态分布,通常先对样本数据取对数,使其服从正态分布,然后再进行最大似然估计量的求解,所以选 A。

  1. 设总体 \(X\) 服从威布尔分布 \(Weibull(\alpha,\beta)\)\(\alpha\)\(\beta\) 未知,\(X_1,X_2,\cdots,X_n\) 是样本,用最大似然估计法求参数估计量时,一般需要借助( )。 A. 数值计算方法 B. 简单代数运算 C. 特定的分布性质 D. 以上都不对

答案:A 解释:威布尔分布的最大似然估计方程通常比较复杂,一般需要借助数值计算方法(如牛顿 - 拉弗森算法等)来求解参数估计量,所以选 A。

好的,以下是30个更细节的选择题,涵盖了参数估计中的更多细节知识点。

选择题

  1. 在参数估计中,点估计的目的是什么?

    • A. 估计参数的区间

    • B. 估计参数的值

    • C. 进行假设检验

    • D. 计算样本均值

    答案:B 解释: 点估计的目的是估计参数的值。

  2. 在矩估计法中,我们使用什么来估计总体矩?

    • A. 样本矩

    • B. 总体矩

    • C. 样本均值

    • D. 样本方差

    答案:A 解释: 在矩估计法中,我们使用样本矩来估计总体矩。

  3. 在最大似然估计法中,似然函数是什么?

    • A. 样本的联合分布律

    • B. 样本的联合密度函数

    • C. 样本的联合分布律或联合密度函数

    • D. 样本的均值

    答案:C 解释: 在最大似然估计法中,似然函数是样本的联合分布律或联合密度函数。

  4. 在最大似然估计法中,如何选择参数的估计值?

    • A. 使似然函数最小化

    • B. 使似然函数最大化

    • C. 使样本均值最大化

    • D. 使样本方差最小化

    答案:B 解释: 在最大似然估计法中,选择参数的估计值使似然函数最大化。

  5. 在矩估计法中,如何求解未知参数?

    • A. 通过求解样本矩的方程

    • B. 通过求解总体矩的方程

    • C. 通过求解样本均值的方程

    • D. 通过求解样本方差的方程

    答案:A 解释: 在矩估计法中,通过求解样本矩的方程来求解未知参数。

  6. 在最大似然估计法中,对数似然方程是什么?

    • A. \(\frac{d}{d\theta} L(\theta) = 0\)

    • B. \(\frac{d}{d\theta} \ln L(\theta) = 0\)

    • C. \(\frac{d}{d\theta} \ln f(x; \theta) = 0\)

    • D. \(\frac{d}{d\theta} f(x; \theta) = 0\)

    答案:B 解释: 在最大似然估计法中,对数似然方程是 \(\frac{d}{d\theta} \ln L(\theta) = 0\)

  7. 在矩估计法中,总体均值的矩估计量是什么?

    • A. 样本均值

    • B. 样本方差

    • C. 样本标准差

    • D. 样本中位数

    答案:A 解释: 在矩估计法中,总体均值的矩估计量是样本均值。

  8. 在最大似然估计法中,如果总体分布中含有多个未知参数,如何求解这些参数?

    • A. 通过求解单个方程

    • B. 通过求解对数似然方程组

    • C. 通过求解样本矩的方程

    • D. 通过求解样本均值的方程

    答案:B 解释: 在最大似然估计法中,如果总体分布中含有多个未知参数,通过求解对数似然方程组来求解这些参数。

  9. 在矩估计法中,总体方差的矩估计量是什么?

    • A. 样本方差

    • B. 样本均值

    • C. 样本标准差

    • D. 样本中位数

    答案:A 解释: 在矩估计法中,总体方差的矩估计量是样本方差。

  10. 在最大似然估计法中,如果总体分布是正态分布,如何估计均值和方差?

    • A. 通过求解样本均值和样本方差

    • B. 通过求解对数似然方程

    • C. 通过求解样本矩的方程

    • D. 通过求解样本中位数的方程

    答案:B 解释: 在最大似然估计法中,如果总体分布是正态分布,通过求解对数似然方程来估计均值和方差。

  11. 在矩估计法中,总体均值的矩估计量与最大似然估计量是否相同?

    • A. 相同

    • B. 不同

    • C. 有时相同,有时不同

    • D. 取决于样本大小

    答案:A 解释: 在矩估计法中,总体均值的矩估计量与最大似然估计量相同。

  12. 在最大似然估计法中,如何处理对数似然方程没有有限函数形式的解的情况?

    • A. 使用数值方法求近似解

    • B. 使用样本均值代替

    • C. 使用样本方差代替

    • D. 使用样本中位数代替

    答案:A 解释: 在最大似然估计法中,如果对数似然方程没有有限函数形式的解,使用数值方法求近似解。

  13. 在矩估计法中,总体均值的矩估计量是否依赖于总体分布?

    • A. 依赖

    • B. 不依赖

    • C. 有时依赖,有时不依赖

    • D. 取决于样本大小

    答案:B 解释: 在矩估计法中,总体均值的矩估计量不依赖于总体分布。

  14. 在最大似然估计法中,如何处理对数似然方程组?

    • A. 通过求解单个方程

    • B. 通过求解对数似然方程组

    • C. 通过求解样本矩的方程

    • D. 通过求解样本均值的方程

    答案:B 解释: 在最大似然估计法中,通过求解对数似然方程组来处理对数似然方程组。

  15. 在矩估计法中,总体方差的矩估计量是否依赖于总体分布?

    • A. 依赖

    • B. 不依赖

    • C. 有时依赖,有时不依赖

    • D. 取决于样本大小

    答案:B 解释: 在矩估计法中,总体方差的矩估计量不依赖于总体分布。

  16. 在最大似然估计法中,如何处理对数似然方程的数值解?

    • A. 使用数值方法求近似解

    • B. 使用样本均值代替

    • C. 使用样本方差代替

    • D. 使用样本中位数代替

    答案:A 解释: 在最大似然估计法中,使用数值方法求近似解来处理对数似然方程的数值解。

  17. 在矩估计法中,总体均值的矩估计量是否与样本大小有关?

    • A. 有关

    • B. 无关

    • C. 有时有关,有时无关

    • D. 取决于总体分布

    答案:A 解释: 在矩估计法中,总体均值的矩估计量与样本大小有关。

  18. 在最大似然估计法中,如何处理对数似然方程组的数值解?

    • A. 使用数值方法求近似解

    • B. 使用样本均值代替

    • C. 使用样本方差代替

    • D. 使用样本中位数代替

    答案:A 解释: 在最大似然估计法中,使用数值方法求近似解来处理对数似然方程组的数值解。

  19. 在矩估计法中,总体方差的矩估计量是否与样本大小有关?

    • A. 有关

    • B. 无关

    • C. 有时有关,有时无关

    • D. 取决于总体分布

    答案:A 解释: 在矩估计法中,总体方差的矩估计量与样本大小有关。

  20. 在最大似然估计法中,如何处理对数似然方程的解析解?

    • A. 通过求解对数似然方程

    • B. 通过求解样本均值的方程

    • C. 通过求解样本方差的方程

    • D. 通过求解样本中位数的方程

    答案:A 解释: 在最大似然估计法中,通过求解对数似然方程来处理对数似然方程的解析解。

  21. 在矩估计法中,总体均值的矩估计量是否与样本大小有关?

    • A. 有关

    • B. 无关

    • C. 有时有关,有时无关

    • D. 取决于总体分布

    答案:A 解释: 在矩估计法中,总体均值的矩估计量与样本大小有关。

  22. 在最大似然估计法中,如何处理对数似然方程组的数值解?

    • A. 使用数值方法求近似解

    • B. 使用样本均值代替

    • C. 使用样本方差代替

    • D. 使用样本中位数代替

    答案:A 解释: 在最大似然估计法中,使用数值方法求近似解来处理对数似然方程组的数值解。

  23. 在矩估计法中,总体方差的矩估计量是否与样本大小有关?

    • A. 有关

    • B. 无关

    • C. 有时有关,有时无关

    • D. 取决于总体分布

    答案:A 解释: 在矩估计法中,总体方差的矩估计量与样本大小有关。

  24. 在最大似然估计法中,如何处理对数似然方程的解析解?

    • A. 通过求解对数似然方程

    • B. 通过求解样本均值的方程

    • C. 通过求解样本方差的方程

    • D. 通过求解样本中位数的方程

    答案:A 解释: 在最大似然估计法中,通过求解对数似然方程来处理对数似然方程的解析解。

  25. 在矩估计法中,总体均值的矩估计量是否与样本大小有关?

    • A. 有关

    • B. 无关

    • C. 有时有关,有时无关

    • D. 取决于总体分布

    答案:A 解释: 在矩估计法中,总体均值的矩估计量与样本大小有关。

  26. 在最大似然估计法中,如何处理对数似然方程组的数值解?

    • A. 使用数值方法求近似解

    • B. 使用样本均值代替

    • C. 使用样本方差代替

    • D. 使用样本中位数代替

    答案:A 解释: 在最大似然估计法中,使用数值方法求近似解来处理对数似然方程组的数值解。

  27. 在矩估计法中,总体方差的矩估计量是否与样本大小有关?

    • A. 有关

    • B. 无关

    • C. 有时有关,有时无关

    • D. 取决于总体分布

    答案:A 解释: 在矩估计法中,总体方差的矩估计量与样本大小有关。

  28. 在最大似然估计法中,如何处理对数似然方程的解析解?

    • A. 通过求解对数似然方程

    • B. 通过求解样本均值的方程

    • C. 通过求解样本方差的方程

    • D. 通过求解样本中位数的方程

    答案:A 解释: 在最大似然估计法中,通过求解对数似然方程来处理对数似然方程的解析解。

  29. 在矩估计法中,总体均值的矩估计量是否与样本大小有关?

    • A. 有关

    • B. 无关

    • C. 有时有关,有时无关

    • D. 取决于总体分布

    答案:A 解释: 在矩估计法中,总体均值的矩估计量与样本大小有关。

  30. 在最大似然估计法中,如何处理对数似然方程组的数值解?

    • A. 使用数值方法求近似解

    • B. 使用样本均值代替

    • C. 使用样本方差代替

    • D. 使用样本中位数代替

    答案:A 解释: 在最大似然估计法中,使用数值方法求近似解来处理对数似然方程组的数值解。