在之前的十篇文章中，我們用了九篇文章的篇幅討論了點估計的相關知識，現在來稍作回顧。 首先，我們討論了正態分佈兩個引數——均值、方差的點估計，給出了它們的分佈資訊，並指出它們是相互獨立的；然後，我們討論到其他的分佈族，介紹了點估計的評判標準——無偏性、相合性、有效性；之後，我們基於無偏性和相合性的討論給出了常用分佈的引數點估計，並介紹了兩種常用於尋找點估計量的方法——矩法與極大似然法；最後，我們對點估計的有效性進行了討論，給出了一些驗證、尋找UMVUE的方法，並介紹了CR不等式，給出了無偏估計效率的定義。以上就是我們在前九篇文章中提到的主要內容，還順便介紹了一些常用的分佈：$\Gamma$分佈、$\beta$分佈、$\chi^2$分佈。 今天開始，我們將進入區間估計與假設檢驗部分。由於本系列為我獨自完成的，缺少審閱，**如果有任何錯誤，歡迎在評論區中指出，謝謝**！ ## Part 1：什麼是區間估計 區間估計同樣是引數估計的一種方法，不同於點估計用樣本計算出的一個統計量直接作為原始引數的估計，區間估計會根據抽取出的樣本，計算出一個基於樣本觀測值的區間。簡單說來，如果對總體$f(x;\theta)$中的引數$\theta$作估計，則首先從總體中獲得樣本$\boldsymbol{X}=(X_1,\cdots,X_n)$，並確定兩個**具有確定大小關係**的統計量$\hat g_1(\boldsymbol{X})\le \hat g_2(\boldsymbol{X})$，根據樣本觀測值計算出的區間$[\hat g_1(\boldsymbol{X}),\hat g_2(\boldsymbol{X})]$就是待估引數$\theta$的區間估計。 由此，我們可以看出，區間估計依然是依賴於統計量的，並且往往需要不止一個統計量。區間估計相比於點估計的特點是，區間估計給出了一個相對“粗糙”的範圍，這就導致你需要使用這個引數時，不像點估計一樣能直接把估計值拿來用；但是，區間估計具有涵蓋引數真值的可能，因為當引數空間$\Theta$的取值連續時，點估計$\hat\theta$與真值相等的可能性$\mathbb{P}(\hat\theta=\theta)=0$，但是區間估計包含真值的可能性$\mathbb{P}(\theta\in[\hat g_1(\boldsymbol{X}),\hat g_2(\boldsymbol{X})])>0$，這使得區間估計比起點估計而言，增加了一定的可靠性。 這麼說可能比較抽象，讓我們舉一個實際的例子，還記不記得第一篇文章中yhh送我們的橙子？廠家聲稱一箱子橙子的平均重量是80斤，而我們稱量後發現橙子的平均重量是79.9斤，我們不能說廠家的聲稱是錯誤的，因為點估計與真值相等的概率為0。然而，我們通過某種手段得到了橙子重量的區間估計是$[79.5,80.5]$斤，則你可能就會認為，橙子的重量極可能就落在這個範圍內，與80斤相差不大，因此廠家的聲稱是可以接受的。 區間估計還有另一方面的可靠性。在上面的討論中，我們得到的點估計是79.9斤，如果換一箱橙子，它的重量不可能還是79.9斤了。但是，新一箱橙子的重量可能是70斤嗎？可能性有多大？可能是80.1斤嗎？可能性又有多大？點估計無法給出直觀的感受，它只會讓你覺得，80.1斤的概率要比70斤大點兒。但是，如果我們獲得了這樣的一個區間估計：$[79.5,80.5]$，則你就會覺得80.1斤出現的可能性比較大點，而70斤幾乎不可能出現。假如區間估計是$[60, 100]$，則70斤和80.1斤就都很有可能出現了。這就是區間估計帶來的好處，能讓我們對預測的可能取值有更直觀的感受。 除了這種雙側都用統計量表示的區間估計，還存在一種單側區間估計，即形如$(-\infty,u(\boldsymbol{X})]$或者$[l(\boldsymbol{X}),+\infty)$的區間估計。這一般代表我們只關注引數的一側，而不關注另一側，我們稱這種區間估計為單側區間估計。不過，這種區間估計不是我們所要關注的重點。 ## Part 2：如何評價區間估計 最早接觸過的，用一個區間來表示估計範圍的，應該是高中所學的$3\sigma$原則：正態分佈的取值落在$[\mu-3\sigma,\mu+3\sigma]$之外的概率小於0.01。雖然這並非區間估計（務必注意這不是區間估計），但我們也能據此來感受區間估計的兩大評價指標：**精度**、**可靠度**。 精度用區間估計的**平均長度**來度量。為什麼要加入“平均”二字呢？因為區間估計的上界和下界都是統計量，而統計量自身具有兩重性，故區間長度$\hat g_2(\boldsymbol{X})-\hat g_1(\boldsymbol{X})$也是一個隨機變數，其平均長度就是 $$ \mathbb{E}[\hat g_2(\boldsymbol{X})-\hat g_1(\boldsymbol{X})]. $$ 可靠度指的是待估引數$\theta$被包含在區間$[\hat g_1(\boldsymbol{X}),\hat g_2(\boldsymbol{X})]$內的可能性，其量度不像精度那麼容易度量，這裡需要引入**置信水平（置信度）**與**置信係數**的概念。置信水平指的是$[\hat g_1(\boldsymbol{X}),\hat g_2(\boldsymbol{X})]$包含待估引數$\theta$的概率，一般說來這個概率可能與$\theta$有關，在這種情況下，置信係數則是**置信水平在$\theta\in\Theta$上的下確界**。這樣，即使置信水平是一個關於$\theta$的函式，置信係數也是一個$[0,1]$之間的常數，不過我們之後經常會取置信水平本身就是常數的區間作為待估引數的區間估計。 顯然，精度和可靠度是相互制約的，如果樣本容量一定，精度低了可靠度就高，為使置信係數達到$1$，這個區間估計一般是$\mathbb{R}$。我們應當在精度和可靠度中相互權衡，來挑選合適的置信區間，為此，常使用Neyman建議的方案：**在保證置信係數達到指定要求的前提下，儘可能提高精度**。即，首先我們需要對區間估計有一個預期的表現，在這個預期表現之下選擇平均長度最小的區間估計。當然，預期的表現要合理，不能要一個$100\%$包含待估引數的蠻橫要求，這樣區間估計就會很尷尬。現行的教材一般要求這個置信係數是$95\%$，將其一般化，可以提出如下**置信區間**的概念。 設$[\hat \theta_1,\hat \theta_2]$是引數$\theta$的一個區間估計，其中$\hat\theta_1=\hat\theta_1(\boldsymbol{X})$，$\hat\theta_2=\hat\theta_2(\boldsymbol{X})$。若對於給定的$0<\alpha<1$（常取$\alpha=0.05$），有 $$ \mathbb{P}(\theta\in[\hat\theta_1,\hat\theta_2])\ge 1-\alpha,\quad \forall\theta\in\Theta, $$ 則稱$[\hat\theta_1,\hat\theta_2]$是$\hat\theta$的**置信水平**為$1-\alpha$的置信區間，該區間的置信係數就是$\inf\limits_{\theta\in\Theta}\mathbb{P}(\theta\in[\hat\theta_1,\hat\theta_2])$。 我想，大多數讀者應該此前已經聽說過置信區間這個名詞，只是不知道其官方定義是什麼。注意到，置信區間的定義是基於Neyman建議的，即首要條件是保證置信水平，儘可能讓精度小（不一定需要）。如果$\mathbb{P}(\theta\in[\hat\theta_1,\hat\theta_2])$在$\theta\in\Theta$上是一個常數，則置信度就是置信係數，這也是我們更經常處理的情況。 對於單側區間估計的情形，我們稱滿足$\mathbb{P}(\theta\in[\hat\theta_l,\infty))\ge 1-\alpha$或$\mathbb{P}(\theta\in(-\infty,\hat\theta_u])$的單側置信區間端點$\hat\theta_l,\hat\theta_u$為置信水平為$1-\alpha$的**置信限**。也就是說，“限”即上限或下限，描述的是單側的置信區間。 這樣，我們就把區間估計部分的基本概念給闡釋了一遍，但至於如何尋找區間估計，相信大多數讀者依然不明白。這沒有關係，閱讀以上的部分，你只要明白Neyman的建議，以及什麼叫置信區間、置信水平即可。 ## Part 3：$t$分佈和$F$分佈 在開始區間估計的尋找之前，我們需要介紹正態分佈的另外兩個衍生分佈：$t$分佈和$F$分佈，它們在尋找正態分佈區間估計的過程中會發揮重要的作用。 首先是$t$分佈。設隨機變數$X\sim N(0,1)$，$Y\sim \chi^2(n)$，且$X$和$Y$相互獨立，則 $$ T\xlongequal{def}\frac{X}{\sqrt{Y/n}}\sim t(n), $$ 其中$n$為**自由度**。形式上，分子是標準正態隨機變數，分母是$\chi^2$變數除以其自由度並開根號，$t$分佈的自由度即$\chi^2$分佈的自由度。 > 書上提到，$t(n)$分佈的密度函式是 > $$ > p_n(x)=\frac{\Gamma(\frac{n+1}{2})}{\Gamma(\frac{n}{2})\sqrt{n\pi}}\left(1+\frac{x^2}{n} \right)^{-\frac{n+1}{2}}, > $$ > 這不是一個需要記憶的結論，證明也比較複雜，故在此不給出。 需要注意的是$t$分佈的一些性質： 1. $t$分佈關於原點對稱，即其密度函式是偶函式。 2. 隨著自由度$n$增大，$t(n)$分佈趨近於標準正態分佈。 3. 若$T\sim t(n)$，則$\mathbb{E}(T^r)$只有當$r

相關推薦

數理統計11：區間估計，t分佈，F分佈

在之前的十篇文章中，我們用了九篇文章的篇幅討論了點估計的相關知識，現在來稍作回顧。 首先，我們討論了正態分佈兩個引數——均值、方差的點估計，給出了它們的分佈資訊，並指出它們是相互獨立的；然後，我們討論到其他的分佈族，介紹了點估計的評判標準——無偏性、相合性、有效性；之後，我們基於無偏性和相合性的討論給出了常

數理統計8：點估計的有效性、一致最小方差無偏估計(UMVUE)、零無偏估計法

在之前的學習中，主要基於充分統計量給出點估計，並且注重於點估計的無偏性與相合性。然而，僅有這兩個性質是不足的，無偏性只能保證統計量的均值與待估引數一致，卻無法控制統計量可能偏離待估引數的程度；相合性只能在大樣本下保證統計量到均值的收斂性，但卻對小樣本情形束手無策。今天我們將注重於統計量的有效性，即無偏統計量的

數理統計6：泊松分佈，泊松分佈與指數分佈的聯絡，離散分佈引數估計

前兩天對兩大連續型分佈：均勻分佈和指數分佈的點估計進行了討論，匯出了我們以後會用到的兩大分佈：$\beta$分佈和$\Gamma$分佈。今天，我們將討論離散分佈中的泊松分佈。其實，最簡單的離散分佈應該是兩點分佈，但由於在上一篇文章的最後，提到了$\Gamma$分佈和泊松分佈的聯絡，因此本文從泊松分佈出發。由於

數理統計7：矩法估計（MM）、極大似然估計（MLE），定時截尾實驗

在上一篇文章的最後，我們指出，引數估計是不可能窮盡討論的，要想對各種各樣的引數作出估計，就需要一定的引數估計方法。今天我們將討論常用的點估計方法：矩估計、極大似然估計，它們各有優劣，但都很重要。由於本系列為我獨自完成的，缺少審閱，**如果有任何錯誤，歡迎在評論區中指出，謝謝**！ [TOC] ## Par

數理統計9：完備統計量，指數族，充分完備統計量法，CR不等式

昨天我們給出了統計量是UMVUE的一個必要條件：它是充分統計量的函式，且是無偏估計，但這並非充分條件。如果說一個統計量的無偏估計函式一定是UMVUE，那麼它還應當具有完備性的條件，這就是我們今天將探討的內容。由於本系列為我獨自完成的，缺少審閱，**如果有任何錯誤，歡迎在評論區中指出，謝謝**！ [Toc]

數理統計14：什麼是假設檢驗，擬合優度檢驗(1)，經驗分佈函式

在之前的內容中，我們完成了引數估計的步驟，今天起我們將進入假設檢驗部分，這部分內容可參照《數理統計學教程》（陳希孺、倪國熙）。由於本系列為我獨自完成的，缺少審閱，**如果有任何錯誤，歡迎在評論區中指出，謝謝**！ [TOC] ## Part 1：什麼是假設檢驗 假設檢驗是一種統計推斷方法，用來判斷樣本與

數理統計15：擬合優度檢驗(2)，列聯表，正態性檢驗

本文我們繼續討論擬合優度檢驗的相關問題。由於本系列為我獨自完成的，缺少審閱，**如果有任何錯誤，歡迎在評論區中指出，謝謝**！ [toc] ## Part 1：分佈未知的Pearson $\chi^2$檢驗 在上篇文章中我們講到了分佈已知的Pearson $\chi^2$檢驗，這是將觀測值分成$r$個組

C++筆記(11)：拷貝控制（拷貝移動，構造賦值，析構）

con 對象 構造函數 col let 拷貝控制 支持 運算符 () 控制對象拷貝，賦值，析構 　　拷貝構造函數，移動構造函數 　　拷貝賦值運算符，移動賦值運算符 　　析構函數 -----------------------------------------------

統計基礎之區間估計

最近在學《商務與經濟統計》基礎知識，為進一步把所學的知識點理順，通過寫文章的形式進行總結，一方面加深對知識點的理解，另一方面提高自己的文字表述能力。 一、總體總體常見的幾種分佈 1、分佈：又稱卡方分佈，是標準正態的平方和。 2、t分佈：是標準正態除以卡方比上其自由度的平方根。 3、F

三大抽樣分佈：卡方分佈，t分佈和F分佈的簡單理解

有很多統計推斷是基於正態分佈的假設，以標準正態分佈變數為基石而構造的三個著名統計量在實際中有廣泛的應用，這是因為這三個統計量不僅有明確背景，而且其抽樣分佈的密度函式有顯式表示式，它們被稱為統計中的“三大抽樣分佈”。這三大抽樣分佈即為著名的卡方分佈，t分佈和F分佈。 目錄

《程式設計珠璣》程式碼之路11：最大子陣列和問題，花式七種解法

給一個一維陣列，有正數也有負數，求最大子陣列和是多少。 這是《程式設計珠璣》第八章探討的一個主要問題，也是平時刷題和各大廠面試的常客。 作為這麼經典的一個問題，要是老生常談，那就沒什麼意義了，這裡為大家帶來七種解法，其中更有一個最優複雜度的線性演算法，博主在各大廠面試的時候，碰到的面試官也非

【航模插頭總結】 ec3，ec5，t插，xt60，xt90，xt150，as150，mt60，mt30

在模型接外掛行業，常用的模型插頭無非就是幾種,EC2插頭，EC5插頭，EC3插頭，T 插頭，XT60插頭，XT90插頭，XT150插頭，AS150插頭等幾種。我們在使用這些插頭的時候，常常會因為電流過大導致插頭甚至是模型的損壞。那麼，這些插頭到底能夠承受多大的電流呢？小編從網上各個地方整理了一些

【通俗理解】顯著性檢驗，T-test，P-value

顯著性檢驗，判定實驗結果是否由隨機誤差導致的。舉例很好，很清楚 雖然樣本中，均值蘇州銷售額大於鄭州，但T-test發現這是隨機導致的，P>0.05，當樣本量足夠大可能他們的銷售額就沒有差異了 假設：兩個樣本集之間不存在任何區別 結果：在顯著性水平α =0.05

幾大分佈：正態分佈、卡方分佈、t分佈、F分佈整理

一、正態分佈 正態分佈（Normal distribution）又名高斯分佈（Gaussiandistribution），若隨機變數X服從一個數學期望為μ、方差為σ^2的高斯分佈，記為N(μ，σ^2)。其概率密度函式為正態分佈的期望值μ決定了其位置，其標準差σ

Excel在統計分析中的應用—第六章—抽樣分佈-小樣本的抽樣分佈（F分佈概率密度函式圖）

F分佈的概率密度函式圖看上去還是比較平易近人的，不像卡方分佈那樣章亂無序。 Excel計算公式： C362==GAMMA((C$360+C$361)/2)*POWER(C$360,C$360/2)*POWER(C$361,C$361/2)*POWER($B362,C$360

概率論與數理統計中基於有限樣本推斷總體分佈的方法，基於總體未知引數區間估計的假設檢驗方法之討論，以及從數理統計視角重新審視線性迴歸函式本質

1. 總體與樣本 0x1：數理統計中為什麼要引入總體和個體這個概念 概率論與數理統計中，一個很重要的研究物件就是總體的概率分佈，理論上說，我們希望獲得被研究物件的總體樣本，基於這份總體樣本進一步研究其概率分佈，但是遺憾地是，幾乎在100%的情況下，我們都不可能獲得真正的總體，我們只能獲取有限的樣本量（例如

再談線性迴歸函式分析，從概率論與數理統計角度看線性迴歸引數估計

1. 隨機變數的數字特徵 0x1：為什麼我們需要統計隨機變數的數字特徵 隨機變數的分佈函式（或概率函式，或密度函式）已經非常全面了，精確地描述了這個隨機變數取值的統計規律性，那為什麼我們還需要研究隨機變數的數字特徵呢？這個小節我們來討論一下這個話題。 1. 實際問題背後概率分佈函式的複雜性 在很多實際

D. Powerful array 離線+莫隊算法 給定n個數，m次查詢；每次查詢[l,r]的權值； 權值計算方法：區間某個數x的個數cnt，那麽貢獻為cnt*cnt*x; 所有貢獻和即為該區間的值；

code ++ 計算方法 equal ati contains tdi ces sum D. Powerful array time limit per test 5 seconds memory limit per test 256 megabytes input st

2星|《戲說統計》：哲學老師的統計學課講稿，復雜，羅嗦，不斷跑題

lan cnblogs int 特點 val 哪裏 sys 部分 技術 戲說統計：文科生的量化方法 全書基本是一位哲學老師的統計學講稿。作者的文風有3大特點： 1：把簡單的事情往復雜了說，簡單的統計學的原理，作者要扯到哲學的各種問題上去； 2：行文啰嗦； 3：不

概率統計：數學期望，方差，協方差，相關系數，矩

es2017 ima mage 協方差 .com 相關系數 png nbsp 數學 概率統計：數學期望，方差，協方差，相關系數，矩