花了10分鐘，終於弄懂了特徵值和特徵向量到底有什麼意義
轉自 http://k.sina.com.cn/article_6367168142_17b83468e001005yrv.html
有振動
就有特徵值
今天，超模君看到了一句神翻譯：
嚇得超模君馬上放下手中的蘋果手機，來碼字了！之前有模友說想知道矩陣的特徵值和特徵向量的意義，那超模君就寫寫它們吧。
1
特徵值和特徵向量的由來
-
超模君：特徵值和特徵向量是怎麼來的呢？
-
小天：我知道來自哪裡！請看下圖：（deng~deng~deng~deng）
算是回答對一半吧！談到線性代數課本里面的一些概念，比如行列式、矩陣乘積、線性變換、二次型等，或許很少人知道它們是誰發現的，這不像高數/數分課本上那麼明顯：柯西收斂準則、拉格朗日中值定理、魏爾斯特拉斯判別法。
下面用一個表格來總結一下線性代數的發展史上做出重要貢獻的數學家：
其實，在北宋時期，我國就與發現矩陣特徵值理論的機會擦肩而過。
在古代，洞房是一件很美好的事，正所謂“春宵一刻值千金”，但是有一位詩人洞房就沒有那麼簡單了。他就是秦少游（1049年—1100年9月17日），在洞房之前卻需要回答娘子出的三道難題，其中最後一道是給出上聯：閉門推出床前月，要求作出下聯。秦少游一時沒有頭緒，當他看到蘇東波往池塘裡扔了一顆小石頭後，得到一句“投石衝開水底天”的泡妞下聯後，就猴急猴急地去洞房了
，完全沒有想到層層水波中隱含著矩陣的特徵值及特徵向量的科學大道理。
秦少游
大概地說，水面附近的任一點水珠在原處上下振動（實際上在做近似圓周運動），並沒有隨著波浪向外圈移動，同時這些上下振動的水珠的幅度在漸漸變小，直至趨於平靜。在由某塊有著特定質量和形狀的石頭被以某種角度和速度投入某個面積和深度特定的水池中所決定的某個矩陣中，紋波盪漾中水珠的漸變過程中其特徵值起著決定性的作用，它決定著水珠振動的頻率和幅度減弱的衰退率。
所以這功勞就給了英國的數學家凱萊 (A.Cayley，1821-1895)，他首先把矩陣作為一個獨立的數學概念提出來，並在1858年發表了論文《矩陣論的研究報告》，系統地闡述了關於矩陣的理論。文中他定義了矩陣的相等、矩陣的運演算法則、矩陣的轉置以及矩陣的逆等一系列基本概念，指出了矩陣加法的可交換性與可結合性。
另外，凱萊還給出了方陣的特徵方程和特徵值以及有關矩陣的一些基本結果。
矩陣論的創立者
好了，現在超模君就說一下它們的定義吧：
對於給定矩陣A，尋找一個常數λ（可以為複數）和非零向量x，使得向量x被矩陣A作用後所得的向量Ax與原向量x平行，並且滿足Ax=λx。
2
特徵值和特徵向量的幾何意義
看到硬生生的定義，模友估計會感到有點迷糊，那超模君就再從幾何角度來講一下它們到底是什麼東西：
我們以一個戀愛故事為栗子：
二維公園（座標軸）裡的椅子上有一個孤獨的向量v（-2，2），一個忠心（不變）的矩陣A試圖從左邊搭訕向量v，於是他們坐在一起得到向量Av
他們就開始上談天文，下聊地理。秀外慧中的向量v徹底迷住了矩陣A，待到離別時，A心裡始終放不下v，當v去一個地方的時候，Av（A心裡有著v，不是單純的A）也陪著她去，就這樣經歷漫長的約會和成長（即下圖中的向量v從左邊移到右邊），終於……
向量v和Av結婚了（共線）！結婚後的向量v多了一份名義，叫做特徵向量。而且向量Av的責任也變多了（上圖是向量Av相對向量v來說伸長了）。也就是說，向量v與矩陣A的結婚後，向量Av保持忠心（方向）不變，責任變多了或什麼東西變少了（進行比例為λ的伸縮）。
那麼我們也許會問：什麼東西會變少呢？在戀愛中，向量v喜歡去爬山，向量Av喜歡玩遊戲，他們一起度過許多美好時光。
結婚後，向量Av的責任變多了，要撐起這一個家，把更多心思花在孩子教育上，興趣愛好變少了（上圖中容易看出這時候向量Av相對向量v來說“縮短”了）。責任對應的特徵值大於1（伸長），興趣愛好對應的特徵值小於1（縮短）。
隨著時間的流逝（上下移動v）我們還發現，有兩條直線上有著v和Av的所有蹤跡，這就是他們的生活空間（特徵空間）。換句話說，特徵空間包含所有的特徵向量。
下面的一個類比可以幫助我們更好的理解特徵值和特徵向量：
如果把矩陣看作是運動，那麼特徵值就是運動的速度，特徵向量就是運動的方向。
特徵向量在一個矩陣的作用下作伸縮運動，伸縮的幅度由特徵值確定。特徵值大於1，所有屬於此特徵值的特徵向量變長；特徵值大於0小於1，特徵向量縮短；特徵值小於0，特徵向量縮過了界，反方向到原點那邊去了。
為了讓模友們看清楚它們的變化，超模君做了幾個動圖，我們來感受一下吧：
（1）首先，我們通過改變向量v的位置，看看向量Av有什麼變化（矩陣A不動噢）
（2）然後，我們不要動向量v，改變矩陣A每一列（通過移動a1和a2），再看看向量Av有什麼變化
（3）接下來是見證奇蹟的時刻！看看超模君的金手指怎麼移動向量v使它變成特徵向量吧！（不好意思，在上移的時候手抖了一下
）
（4）最後，我們改變矩陣A（通過移動a1和a2），重點看看特徵空間（S1和S2）是怎麼變化（特徵值也會發生變化喲）
3
特徵值和特徵向量的應用
說了這麼多，可能有模友會問：到底特徵值和特徵向量有什麼用呢？不會僅僅用來考試吧！
其實，特徵值和特徵向量在我們的生活中都是非常普遍的。
(1)可以用在研究物理、化學領域的微分方程、連續的或離散的動力系統中。例如，在力學中，慣量的特徵向量定義了剛體的主軸。慣量是決定剛體圍繞質心轉動的關鍵資料；
(2)數學生態學家用來預測原始森林遭到何種程度的砍伐，會造成貓頭鷹的種群滅亡；
(3)著名的影象處理中的PCA方法，選取特徵值最高的k個特徵向量來表示一個矩陣，從而達到降維分析+特徵顯示的方法，還有影象壓縮的K-L變換。再比如很多人臉識別，資料流模式挖掘分析等方面。
(4)在譜系圖論中，一個圖的特徵值定義為圖的鄰接矩陣A的特徵值，或者（更多的是）圖的拉普拉斯運算元矩陣，Google的PageRank演算法就是一個例子。
有一句話說得好：“只要有振動就有特徵值，即振動的自然頻率”。如果你曾經彈過吉他，你已經求解了一個特徵值問題。。。
那麼，超模君講了這麼多，你們都看懂了嗎？
如果你們還沒暈的話，還可以看看Steven J.Leon的《線性代數》，裡面會有更多關於特徵值的有趣應用~
-