跳转至

矩法

定义

矩法估计是指,当分布函数中的某个参数或参数函数可以被表为样本矩的函数时,用该样本矩的函数来估计该参数的方法。

原理

矩估计成立是由Khinchin大数定律保证的。Khinchin大数定律指的是:

若随机变量\(X_1, X_2, \dots\)独立同分布,且它们具有相同的有限方差:\(E(X_n) = \mu\),则对任意\(\varepsilon>0\),有

\[ \lim_{n \to \infty} P \left( \left| \frac{1}{n} \sum_{i=1}^n X_i - \mu \right| < \varepsilon \right) = 1. \]

以上定理直接说明了可由样本均值估计总体均值。而如果样本的\(k\)阶原点矩存在,则\(X_1^k, X_2^k, \dots\)也是独立同分布且均值存在的随机变量,因此可以用\(k\)阶样本原点矩估计总体原点矩。中心矩可以表为样本矩的函数,因此对独立同分布样本,只要相应阶的矩存在,矩估计就成立。

例子

这里举两个书上的例子。

例一

取指数分布族 \(\{\lambda e^{-\lambda x},\lambda>0\}\) ,我们直接计算分布的均值可知

\(E[X] = \int_{0}^{\infty} x\lambda e^{-\lambda x}dx = \frac{1}{\lambda}\)

这时,可以看出\(\lambda\)的倒数等于分布的均值,那么一个简单的方法就是直接用样本均值来估计\(\lambda\)的倒数,也就是用样本均值的倒数来估计\(\lambda\)了。

例二

取Gamma分布\(\{\Gamma(\alpha,\lambda),\alpha,\lambda>0\}\),因为

\(\left\{\begin{array} { l } { E [ X ] = \mu = \frac { \alpha } { \lambda } , } \\ { \operatorname { Var } [ X ] = \sigma ^ { 2 } = \frac { \alpha } { \lambda ^ { 2 } } } \end{array} \quad \left\{\begin{array}{l} \alpha=\frac{\mu^{2}}{\sigma^{2}} \\ \lambda=\frac{\mu}{\sigma^{2}} \end{array}\right.\right.\)

\(\widehat{\alpha}=\frac{\bar{X}^{2}}{S_{n}^{2}}, \quad \widehat{\lambda}=\frac{\bar{X}}{S_{n}^{2}}\)

这个例子告诉我们这个方法可以拓展到解方程上去...就是说,对于多个未知的参数函数,我们可以通过解方程的方法来求得它们与样本矩之间的联系。

教材上给出了这种方法的建议

简要的说,就是尽量使用低阶矩去表示就行了。

个人见解

感觉这个方法就是一个simple trick,无非是将一类统计量通过一类技巧映射到估计量上去罢了,其实就是把方程改改,突然发现欸嘿这玩意好像这么写就能那么算,然后就解方程表达出来了,这么想的话,就与高中的知识结合起来了,考试内容也就怪起来了。

局限性

这个方法的局限性很显然,就是你找不到或者解不出来,那就当然算不出来了。