概念

最小二乘法（Alternative -Least-Squares）是一種迭代演算法。它通過最小化誤差的平方和尋找資料的最佳函式匹配。利用最小二乘法可以簡便地求得未知的資料，並使得這些求得的資料與實際資料之間誤差的平方和為最小。最小二乘法可用於曲線擬合。
二乘法曲線擬合：根據給定的n個點,並不要求這條曲線精確地經過這些點，而是曲線y=f(x)的近似曲線y= φ(x)。

原理

給定數n個數據點p(xi,yi)，其中i=1,2,…,n。求近似曲線y= φ(x)。並且使得近似曲線與y=f(x)的偏差最小。近似曲線在點p處的偏差δi= φ(xi)-yi，i=1,2,…,n。

常見的擬合方法有：

• 使偏差絕對值之和最小
  
• 使偏差絕對值最大的最小
  
• 使偏差平方和最小
  

按偏差平方和最小的原則選取擬合曲線，並且採取二項式方程為擬合曲線的方法，稱為最小二乘法

推導過程

1. 設擬合多項式為：
   
2. 各點到這條曲線的距離之和，即偏差平方和如下：
   

3. 為了求得符合條件的a值，對等式右邊求ai偏導數，因而我們得到了：
   

4. 將等式左邊進行一下化簡，然後應該可以得到下面的等式：

5. 
   
   1. 把這些等式表示成矩陣的形式，就可以得到下面的矩陣：
6. 將這個範德蒙得矩陣化簡後可得到:
7. 也就是說X*A=Y，那麼A = (X’*X)-1*X’*Y，便得到了係數矩陣A，同時，我們也就得到了擬合曲線。

實現