點估計

點估計

定值估計
點估計(pointestimation)是用樣本統計量來估計總體參數,因為樣本統計量為數軸上某一點值,估計的結果也以一個點的數值表示,所以稱為點估計。點估計和區間估計屬于總體參數估計問題。何為總體參數統計,當在研究中從樣本獲得一組數據後,如何通過這組信息,對總體特征進行估計,也就是如何從局部結果推論總體的情況,稱為總體參數估計。
    中文名:點估計 外文名:pointestimation 别名: 又稱:定值估計 提出:К.皮爾森在1894年 學 科:高等數學 來 源:概率論與數理統計

構造方法

點估計的方法

旨是用樣本矩的函數估計總體矩的同一函數。例如,若總體分布服從正态分布N(μ,σ^2),其中μ是總體均值,σ^2是總體方差,未知參數可記為θ=(μ,σ)。σ/μ(μ≠0)稱為變異系數,它是總體的一階原點矩(即均值)μ與二階中心矩(即方差)σ^2的函數。設有樣本X=(X1,X2,…,Xn),其一階樣本原點矩為,二階樣本中心矩為,而用估計σ/μ,就是一個典型的矩估計方法。

估計法

最大似然估計法

此法作為一種重要而普遍的點估計法,由英國統計學家R.A.費希爾在1912年提出。後來在他1921年和1925年的工作中又加以發展。設樣本X=(X1,X2,…,Xn)的分布密度為L(X,θ),若固定X而将L視為θ的函數,則稱為似然函數,當X是簡單随機樣本時,它等于ƒ(X1,θ)ƒ(X2,θ)…ƒ(Xn,θ),其中,ƒ(X,θ)是總體分布的密度函數或概率函數(見概率分布)。一經得到樣本值x,就确定(x),然後使用估計g(θ),這就是g(θ)的最大似然估計。例如,不難證明,前面為估計正态分布N(μ,σ2)中的參數μ和σ^2而提出的估計量和2,就是μ和σ^2的最大似然估計。

最小二乘估計法

這個重要的估計方法是由德國數學家C.F.高斯在1799~1809年和法國數學家A.-M.勒讓德在1806年提出,并由俄國數學家Α.Α.馬爾可夫在1900年加以發展。它主要用于線性統計模型中的參

數估計問題。貝葉斯估計法是基于“貝葉斯學派”的觀點而提出的估計法(見貝葉斯統計)。

參考書目

H.克拉默着,魏宗舒等譯:《統計學數學方法》,上海科學技術出版社,上海,1966。(H.Cramér,MatheMaticalMethods of Statistics,Princeton Univ. Press

,Princeton,1946.)成平等着:《參數估計》,上海科學技術出版社,上海,1985。

優良準測

小樣本優良性準則

可以用來估計g(θ)的估計量很多,于是産生了怎樣選擇一個優良估計量的問題。首先必須對"優良性"定出準則。這種準則不是惟一的,它可以根據問題的實際背景和理論上的方便進行選擇。優良性準則有兩大類:一類是小樣本準則,即在樣本大小固定時的優良性準則;另一類是大樣本準則,即在樣本大小趨于無窮時的優良性準則。最重要的小樣本優良性準則是無偏性及與此相關的一緻最小方差無偏估計。

若一個估計量抭(X)的數學期望等于被估計的g(θ),即對一切θ,,則稱抭(X)為g(θ)的無偏估計,這種估計的特點是:在多次重複用時,抭(X)與g(θ)的偏差的算術平均值随使用次數的增加而趨于零。因此,無偏性隻在重複使用中,并且各次誤差能相互抵消時,才顯出其意義。無偏估計并不總是存在。例如,設總體服從二項分布B(n,θ),0<;θ<1,則1/θ的無偏估計就不存在。有時,無偏估計雖然存在,但很不合理。在一些問題中,無偏估計有很多,它們的優良性由其方差來衡量,方差愈小愈好。若一無偏估計的方差比任何别的無偏估計的方差都小,或至多相等,則稱它為一緻最小方差無偏估計。

尋找一緻最小方差無偏估計的一個普遍方法,是D.布萊克韋爾、E.L.萊曼和H.謝菲在1950年提出的,它基于統計量的充分性與完全性的概念:設抭(X)是一個無偏估計,T是一個完全充分統計量,則抭(X)在給定T時的條件期望就是一個一緻最小方差無偏估計。克拉默-拉奧不等式是尋求一緻最小方差無偏估計的另一重要工具,是由印度統計學家C.R.拉奧和瑞典統計學家H.克拉默在1945年和1946年先後獨立地證明的。當樣本的似然函數L(X,θ)滿足一定條件時,則 g(θ)的任一無偏估計抭(X)的方差,對于一切θ滿足不等式這個不等式的右邊隻與樣本的分布及待估函數 g有關,而與抭(X)無關。

通常稱這個不等式為克拉默-拉奧不等式,或C-R不等式。它的右邊給出了g(θ)的無偏估計的方差的最小下界,稱為克拉默-拉奧下界或C-R下界。因此,若某一無偏估計的方差達到上述C-R下界,則它必是一緻最小方差無偏估計。C-R不等式在其他統計問題中也有應用。在點估計問題中還使用其他一些小樣本準則,如容許性準則、最小化最大準則、最優同變準則(見統計決策理論)等。

大樣本優良性準則

重要的如下

相合性若g(θ)的估計量 抭n(X1,X2,…,Xn)在n趨于無窮時,在某種收斂意義下(見概率論中的收斂)收斂于g(θ),則稱抭n(X1,…,Xn)是 g(θ)的在這種收斂意義下的相合估計。這是點估計最基本的大樣本準則。例如依概率收斂意義下的相合性稱為弱相合,幾乎必然收斂意義下的相合性稱為強相合。矩估計一般具有相合性。最大似然估計在一定條件下為強相合的證明始自A.瓦爾德1949年的工作,并在以後為許多學者所發展。線性統計模型中參數的最小二乘估計的強相合性研究始于20世紀60年代,-取得很大的進展。

最優漸近正态估計

簡稱BAN估計。設X1,X2,…,Xn為從一總體中随機獨立地抽出的樣本,總體分布具有密度函數或概率函數ƒ(x,θ),滿足一定的正則條件,設g(θ)為待估函數,記式中稱為費希爾信息量,若g(θ)的估計量為抭n(X1,X2,…,Xn),當n→時,依分布收斂于正态分布 N(0,v2(θ)),就稱此估計量為g(θ)的 BAN估計。在g(θ)的一類漸近正态估計中,以這種估計的漸近方差最小,故稱為最優漸近正态估計。在一般條件下,最大似然估計是BAN估計。

漸近有效估計

當樣本大小為n時,C-R不等式的右邊(即C-R下界)就是v2(θ)/n。在BAN估計定義中,并未要求估計量抭n(X1,X2,…,Xn)的方差存在,如果去掉漸近正态性的要求,而要求抭n(X1,X2,…,Xn)的方差存在且漸近于C-R下界,則得到克拉默于1946年定義的漸近有效估計的概念。不少情況下,BAN估計也是漸近有效估計。1960年印度統計學家R.R.巴哈杜爾提出另一種漸近有效性的概念,還可以用于假設檢驗問題。--日本統計學家竹内啟又在兩個方面發展了估計的漸近有效性概念:一是漸近分布不必是正态分布;二是收斂于漸近分布的階不必是。

點估計理論是數理統計學得到較多和較深入發展的一個方面。在小樣本方面,1955年C.施坦提出了一個反例,證明當維數大于2時,多維正态分布均值向量的通常估計(樣本均值)在平方損失下不可容許。這個簡單的但出乎意料的反例啟發了關于點估計的容許性的一系列研究。在大樣本方面,值得提到的發展還有自适應估計、穩健估計及非參數估計方面許多深入的結果。

上一篇:PIC單片機

下一篇:橘紅顆粒

相關詞條

相關搜索

其它詞條