浅谈如何讲授极大似然估计
2015-05-30杨洋
杨洋
摘 要:极大似然估计是概率论与数理统计这门课程的重难点,在讲解这一知识点时,可以通过启发式教学,理论与实际问题相结合,循序渐进地进行讲解。
关键词:似然方程;极大似然估计;参数估计
极大似然估计是概率论与数理统计这门课程的重难点,也是求估计时使用最多的参数估计方法。德国著名数学家高斯在1821年最早提出了这一概念,在1922年费希尔再次提出这种想法,并对它的一些性质给出证明,这才使极大似然法得到了广泛的应用,对极大似然估计的讲解。在教学中往往存在教师对于这一复杂的原理难以讲解,学生不易理解的情况,从而无法灵活地运用这一统计方法来解决问题,本文笔者将结合自己的教学实践浅谈一些体会。
一、通过生活中实例引出极大似然估计原理
直接讲述抽象复杂的概念,学生理解起来较为困难,通过日常生活中的实例增强学生的直观感知。
例1,老猎人和某位同学外出打猎,二人同时各开一枪,其中一人打中一只野兔,如果要你推断是谁打中的呢?
根据常识判断老猎人命中的概率一般大于学生命中的概率,这枪极有可能是老猎人命中的,这个例子所作的推断已经体现了极大似然法的基本思想。
例2,设有外形相同的两个盒子,甲盒中有99个白球和1个黑球,乙盒中有99个黑球1个白球,今随机地抽取一盒,并从中随机抽取一球,结果取得白球,问这个球是从哪个盒子取出?
不管是哪个盒子任取一个球都有两个可能结果:白球或者黑球,甲盒取出白球发生的概率为0.99,乙盒子取出白球发生的概率为0.01,甲盒取出白球发生的概率大,从而推断这球是从甲盒中取出。
由此我们引出极大似然原理:随机试验有若干个可能的结果A、B、C……,现进行一次实验,结果A发生了,则认为实验条件对结果A出现最有利,即实验的条件应该使得结果A出现的概率为最大。
我们将这种想法用于参数估计,设总体X的分布为F(X;θ),θ∈Θ(θ为未知参数;Θ为参数空间)X1,X2,…,Xn为来自总体的样本,x1,x2,…,xn为一组样本值,在θ的一切可能取值中选取一个作为θ的估计。根据极大似然原理要选使得样本值为x1,x2,…,xn出现概率达到最大的θ值(记为θ)作为θ的估计。
二、再次结合实例,给出极大似然估计定义
例3,对某工厂生产的零件进行随机抽样,在抽取的20件样品中,合格品17件,不合格品为3件,试求这批零件的不合格率。
我们用随机变量X来表示某个零件是否合格,X=0表示合格品,X=1表示不合格品,则X服从二点分布b(1,p)其中p是未知的不合格品率,在得到的样本x1,x2,…,x20,这批观测值发生的概率为:
P(X1=x1,X2=x2…,X20=x20)= ∏px(1-p)1-x =p3(1-p)17 (1)
P未知,我們要选择P使得(1)式表示的概率尽可能大,将(1)式看做未知参数P的函数,用L(P)表示,当P=P时,L(p)=maxL(p),对(1)式两端取对数并关于求导令其为0
—=—-—=0 p=0.15
通过以上铺垫我们给出下面的定义。
定义:设总体的概率函数为p(x;θ)θ∈Θ其中θ是一个未知参数或几个未知参数组成的向量,Θ是参数θ可能取值的参数空间,x1,x2,…,xn是来自该总体的样本,将样本的联合概率函数看成θ的函数,L(θ)=L(θ,x1,…,xn)=∏p(x1;θ),L(θ)
称为样本的似然函数。如果某统计量θ=θ(x1,x2,…,xn)满足L(θ)=
maxθ∈ΘL(θ)则称θ是θ的极大似然估计,简记为MLE(Maximum Likelihood Estimate)[1]。
三、常用求极大似然估计的方法与步骤
由定义可知,只要求出似然函数L(θ)的最大值,那么总体参数θ的极大似然估计θ的问题便可解决,根据数学分析可知,若似然函数L(θ)是θ的连续函数,且关于的各分量偏导数存在,对似然函数取对数,因lnL(θ)达到最大与L(θ)达到最大等价,所以利用—求得θ[2]。
当似然函数的非零区域与未知参数有关时,通常无法通过解似然方程来获得参数的极大似然估计,这时可从定义出发直接求L(θ)的极大值点。
求极大似然估计的一般步骤归纳如下:
(1)求似然函数L(θ)。
(2)建立方程组—=0。
(3)解似然方程组得到极大似然估计值θ。
四、极大似然估计的不足
经过大量的研究,极大似然估计法相对其他估计法具有相合性、有效性、充分性、完备性等优良性质,但也有它的不足,如果不知道总体分布而又要估计其均值和方差,这时极大似然法就没有了用武之地。
在讲授极大似然估计时,首先由日常生活的例子出发,激发学生的兴趣,对极大似然原理有初步的印象,接着通过生产中的例子使学生了解如何建立似然方程以及如何求极大似然估计,这样层层递进,学生接受起来较容易,有能力利用极大似然估计法解决一些问题,在教学过程中,应该理论与实际问题相结合,调动学生学习的积极性,同时也能使我们的教学变得易懂生动。
参考文献:
[1]茆诗松,等.概率论与数理统计教程[M].北京:高等教育出版社,2011.
[2]华东师范大学数学系.数学分析[M].北京:高等教育出版社,2004.
(作者单位:吉林师范大学数学学院)