位置参数族的MLE与Bayes估计相等的关系①

姚 丽

(吉林师范大学数学学院，吉林四平 136000)

0 引言

文献[2]中称“贝叶斯学派至今尚未证明总体分布p(x/θ)中的参数的任一经典估计都存在一个先验分布，使得其贝叶斯估计就是该经典估计”，这一命题现在仍未解决.由于位置参数族是实际中比较常见的一般性分布，例如方差已知时的正态分布N(θ，σ2)、均匀分布U(0，θ)、威布尔分布等具体分布都是其特例，并且最大似然估计是其主要的经典估计方法，为此，在一个缩小的范围内探讨命题真伪对于最终解决问题是有益的.本文证明了位置参数族中位置参数的最大似然估计，一定存在一个先验分布，使其贝叶斯估计就是该位置参数的最大似然估计的结论.

1 位置参数族的最大似然估计

设总体X的密度函数具有形式p(x－θ)，其样本空间和参数空间皆为一维实数空间，具有这类密度函数的分布组成了位置参数族，其中，θ称为位置参数.

从总体X中抽取简单随机样本X1，X2，…，Xn，得到 x1，x2，…，xn，则样本的似然函数:

对数似然函数:

令

2 位置参数族的后验分布

定理1[2]: 当θ为位置参数时，其先验分布可用贝叶斯假设作为无信息先验分布.

证明: 让X移动一个量c得到Y=X+c，让位置参数也移动一个量c得到η=θ+c.

则Y有密度函数p(y－η)且Y仍是位置参数族的成员，其样本空间和参数空间仍是一维实数空间.

则(X，θ)问题和(Y，η)问题的统计结构完全相同，且θ与η具有相同的无信息先验分布，即π(τ)= π*(τ)，其中，π*(·)为η 的无信息先验分布.

由变换η=θ+c可以算的η的无信息先验分布为:

则 π(η)= π*(η)= π(η－ c)

令η =c，则有π(c)= π(0)，其中π(0)，为常数.

又由于c具有任意性，故得位置参数θ的无信息先验分布π(θ)=d，d为某一常数，即当θ为位置参数时，其先验分布可用贝叶斯假设作为无信息先验分布，证毕.

由定理1，取位置参数族中位置参数θ的先验密度π(θ)=d，其中，d为某一常数，则位置参数θ的后验分布

由(1)式知:

3 位置参数族中位置参数θ在取π(θ)=d时的贝叶斯估计

由文献[2]知，位置参数θ的贝叶斯估计(最大后验估计)就是使后验密度π(θ/x)达到最大值的θ的估计值，我们将其记为由(2)式可知，要想使位置参数θ的后验密度π(θ/x)达到最大值，只需要A(x)·d·L(θ)取得最大值，其中，A(x)为一个不依赖于θ的常数因子，且满足如下条件:此时，位置参数θ的后验密度π(θ/x)达到最大值就等价于似然函数L(θ)达到最大值.那么，使后验密度π(θ/x)达到最大值的θ的估计值也就等于使似然函数达L(θ)到最大值的θ的估计值，即

4 结 论

本文以位置参数族为例，讨论并证明了其位置参数θ的最大似然估计都存在一个先验密度为π(θ)=d的先验分布(d为某一确定常数)，只要取得的d值能够确保A(x)·d＞0，该位置参数θ的贝叶斯估计就是其最大似然估计，这一结论的确定有利于我们继续研究贝叶斯统计中未解决的问题.

[1]童丽娟.矩法估计与极大似然估计的比较[J].怀化学院学报，2012，31(08):1671－9743.

[2]茆诗松.贝叶斯统计[M].北京:中国统计出版社，1999.

[3]张尧庭，陈汉峰.贝叶斯统计推断[M].北京:科学出版社，1991.

[4]茆诗松，王静龙，濮晓龙.高等数理统计[M].北京:高等教育出版社，2006.

[5]茆诗松，程依明，濮晓龙.概率论与数理统计教程[M].北京:高等教育出版社，2008.