正交與投影

我們在高中就知道，兩個平面向量正交的時候時垂直的，寫成向量乘法就是 。在學習了線性代數後，我們把它寫成了 。這裏的向量可以是任意維數的，比如 。上面的點乘被稱為求取向量的內積，即對應元素的求積累加。那麽，對於兩個函數，我們將它們對應不同自變量的函數值求積累加，就可以定義兩個函數的正交性。一般我們寫成積分形式 ,稱兩函數正交，這個積分式我把它叫做內積積分（我也不知道正統名稱是啥。。。這不重要）。

一般來說，信號教材上會扯一些方均誤差、相似系數什麽的來幫助理解投影，我覺得完全沒有必要。我們換個角度來看：在二維情形下，很容易想到兩個向量的內積就是一個向量在另一個向量上的投影長度，當長度為零就是垂直。擴展到多維向量也是如此。那麽，我們就能獲得一個基底的概念。

基底在線性代數中有所涉及，我們通常是去求取一組向量的最簡正交基來表示這組向量。實際上，正交這個條件並不必要，只需要是線性無關的即可。

在代數中，我們用基底的線性組合可以表示任意的一組向量；在函數中，我們也可以用基底表示任意的函數。

在代數中，我們希望基底是正交的，方便我們尋找線性組合的系數；在函數分解中，我們也希望基底是正交的。傅裏葉用三角函數做了基底，比如{sin t, cos t, sin 2t, cos 2t, sin 3t, ... sin nt, cos nt}。可以證明這組三角函數基底是正交函數基底。

在代數中，向量在一個基底上的線性組合系數可以用內積得到；在函數中，我們用“內積積分”可以求得相應地系數。

正交與投影