矩法
定义¶
矩法估计是指,当分布函数中的某个参数或参数函数可以被表为样本矩的函数时,用该样本矩的函数来估计该参数的方法。
原理¶
矩估计成立是由Khinchin大数定律保证的。Khinchin大数定律指的是:
若随机变量\(X_1, X_2, \dots\)独立同分布,且它们具有相同的有限方差:\(E(X_n) = \mu\),则对任意\(\varepsilon>0\),有
以上定理直接说明了可由样本均值估计总体均值。而如果样本的\(k\)阶原点矩存在,则\(X_1^k, X_2^k, \dots\)也是独立同分布且均值存在的随机变量,因此可以用\(k\)阶样本原点矩估计总体原点矩。中心矩可以表为样本矩的函数,因此对独立同分布样本,只要相应阶的矩存在,矩估计就成立。
例子¶
这里举两个书上的例子。
例一¶
取指数分布族 \(\{\lambda e^{-\lambda x},\lambda>0\}\) ,我们直接计算分布的均值可知
\(E[X] = \int_{0}^{\infty} x\lambda e^{-\lambda x}dx = \frac{1}{\lambda}\)
这时,可以看出\(\lambda\)的倒数等于分布的均值,那么一个简单的方法就是直接用样本均值来估计\(\lambda\)的倒数,也就是用样本均值的倒数来估计\(\lambda\)了。
例二¶
取Gamma分布\(\{\Gamma(\alpha,\lambda),\alpha,\lambda>0\}\),因为
\(\left\{\begin{array} { l } { E [ X ] = \mu = \frac { \alpha } { \lambda } , } \\ { \operatorname { Var } [ X ] = \sigma ^ { 2 } = \frac { \alpha } { \lambda ^ { 2 } } } \end{array} \quad \left\{\begin{array}{l} \alpha=\frac{\mu^{2}}{\sigma^{2}} \\ \lambda=\frac{\mu}{\sigma^{2}} \end{array}\right.\right.\)
故
\(\widehat{\alpha}=\frac{\bar{X}^{2}}{S_{n}^{2}}, \quad \widehat{\lambda}=\frac{\bar{X}}{S_{n}^{2}}\)
这个例子告诉我们这个方法可以拓展到解方程上去...就是说,对于多个未知的参数函数,我们可以通过解方程的方法来求得它们与样本矩之间的联系。
教材上给出了这种方法的建议
简要的说,就是尽量使用低阶矩去表示就行了。
个人见解¶
感觉这个方法就是一个simple trick,无非是将一类统计量通过一类技巧映射到估计量上去罢了,其实就是把方程改改,突然发现欸嘿这玩意好像这么写就能那么算,然后就解方程表达出来了,这么想的话,就与高中的知识结合起来了,考试内容也就怪起来了。
局限性¶
这个方法的局限性很显然,就是你找不到或者解不出来,那就当然算不出来了。