1. 程式人生 > >方差variance, 協方差covariance, 協方差矩陣covariance matrix

方差variance, 協方差covariance, 協方差矩陣covariance matrix

總結 一起 計算 矩陣 獨立 var 隨機 度量 誤差

參考:

如何通俗易懂地解釋「協方差」與「相關系數」的概念?(非常通俗易懂)

淺談協方差矩陣

方差(variance)

集合中各個數據與平均數之差的平方的平均數。在概率論與數理統計中,方差(Variance)用來度量隨機變量和其數學期望(即均值)之間的偏離程度。 方差越大,數據的離散程度就越大。

協方差(covariance)

協方差表示的是兩個變量總體誤差的方差,這與只表示一個變量誤差的方差不同。如果兩個變量的變化趨勢一致,也就是說如果其中一個大於自身的期望值,另外一個也大於自身的期望值,那麽兩個變量之間的協方差就是正值。 如果兩個變量的變化趨勢相反,即其中一個大於自身的期望值,另外一個卻小於自身的期望值,那麽兩個變量之間的協方差就是負值。如果X與Y是統計獨立的,那麽二者之間的協方差就是0,反之則不成立。
表達式:期望值分別為E(X) = μ 與 E(Y) = ν 的兩個實數隨機變量X與Y之間的協方差定義為:COV(X,Y)=E[(X-E(X))(Y-E(Y))]

協方差矩陣 (covariance matrix)

標準差和方差一般是描述一維數據的,描述多維數據就要用到協方差,協方差多了放在一起就是協方差矩陣。協方差矩陣是一個矩陣,其每個元素是各個向量元素之間的協方差。是從標量隨機變量(也就是單維或單值隨機變量)到高維度隨機向量的自然推廣。

總結

理解協方差矩陣的關鍵就在於牢記它的計算是不同維度之間的協方差,而不是不同樣本之間。拿到一個樣本矩陣,最先要明確的就是一行是一個樣本還是一個維度,心中明確整個計算過程就會順流而下,這麽一來就不會迷茫了。

方差variance, 協方差covariance, 協方差矩陣covariance matrix