2. 程式人生 > >基於最小二乘法估計點雲的曲面法向量

基於最小二乘法估計點雲的曲面法向量

阿新 • • 發佈：2019-01-29
之前對PCL庫計算三維點雲資料的曲面法向量有過介紹，點雲的曲面法向量估計，PCL庫是採用主成份分析方法的，近幾天通過理論推導發現最小二乘法應該也能計算曲面法向量。首先介紹下其理論知識。
估計某個點的法向量，可以類似於點雲的曲面法向量估計，將該點附近K近鄰的點近似在一個區域性平面上，之後就通過最小二乘法擬合該平面方程，通過高等數學空間解析幾何知識可知，若平面方程為A*x + B*y + C*z + D = 0，則平面法向量就是(A, B, C)；從而求出法向量。

這裡將平面方程轉化為z = A*x + B*y + C，最小二乘法推導過程如下：



汗！圖片手機照的，沒帶資料線，通過QQ傳到網上後，圖片質量降低！回去再替換。

根據以上推匯出的最終結果，基於PCL庫和Eigen庫程式設計實現法向量估計：
原PCL庫中法向量估計相關類為NormalEstimation，這裡往PCL原始碼pcl_features工程下新增normal_esti_leastsquare.h、normal_esti_leastsquare.hpp、normal_esti_leastsquare.cpp檔案，相關類名NormalEstimation2。
主要程式碼如下所示：

                for (size_t idx = 0; idx < indices_->size (); ++idx)
		{
			if (this->searchForNeighbors ((*indices_)[idx], search_parameter_, nn_indices, nn_dists) == 0)
			{
				output.points[idx].normal[0] = output.points[idx].normal[1] = output.points[idx].normal[2] = output.points[idx].curvature = std::numeric_limits<float>::quiet_NaN ();

				output.is_dense = false;
				continue;
			}

			computePointNormal (*surface_, nn_indices,
				output.points[idx].normal[0], output.points[idx].normal[1], output.points[idx].normal[2], output.points[idx].curvature);

			//flipNormalTowardsViewpoint (input_->points[(*indices_)[idx]], vpx_, vpy_, vpz_,
			//	output.points[idx].normal[0], output.points[idx].normal[1], output.points[idx].normal[2]);

		}
上述程式碼與NormalEstimation類的對應程式碼相差無幾，都是採用K近鄰法獲取每個點附近的點，然後基於這些點計算該點的法向量。
本文的最小二乘法估計法向量，主要在computePointNormal()實現： 
/** \brief 計算點的法向量，曲率暫時不求
* \param[in] 輸入點雲
* \param[in] 給定點的索引下標 
* \param[out] 法向量x分量 
* \param[out] 法向量y分量  
* \param[out] 法向量z分量  
* \param[out] 曲率 
*/
inline void
    computePointNormal (const pcl::PointCloud<PointInT> &cloud, const std::vector<int> &indices, float &nx, float &ny, float &nz, float &curvature)
	{
		u_matrix_.resize(k_ , 3);

		Eigen::VectorXf z_vec(k_);
		for (size_t i = 0, ind_num = indices.size(); i < ind_num; ++i)
		{
			size_t indice = indices[i];

			u_matrix_(i, 0) = cloud.points[indice].x;
			u_matrix_(i, 1) = cloud.points[indice].y;
			u_matrix_(i, 2) = 1;

			z_vec[i] = cloud.points[indice].z;
		}

		EIGEN_ALIGN16 Eigen::Matrix3f utu_matrix = u_matrix_.transpose() * u_matrix_;
		EIGEN_ALIGN16 Eigen::Vector3f solve_vec = utu_matrix.inverse() * u_matrix_.transpose() * z_vec;
		EIGEN_ALIGN16 Eigen::Vector3f normal_vec(solve_vec[0], solve_vec[1], -1);
		  
	        normal_vec /= normal_vec.squaredNorm();    //歸一化為單位向量
		nx = normal_vec[0];
		ny = normal_vec[1];
		nz = normal_vec[2];
	}

編寫完以上程式碼後，編譯PCL原始碼，生成新的pcl_features_debug.lib和pcl_features_debug.dll庫；然後編寫測試程式，並引用pcl_features_debug.lib和pcl_features_debug.dll庫。
這裡構造一個平面方程為x + y + z = 1的平面：
#include <iostream>
#include <pcl/point_types.h>
#include <pcl/io/pcd_io.h>
#include <pcl/features/normal_esti_leastsquare.h>

using namespace std;
int main(int argc, char* argv[])
{
        pcl::PointCloud<pcl::PointXYZ>::Ptr inCloud(new pcl::PointCloud<pcl::PointXYZ>);  
	pcl::search::KdTree<pcl::PointXYZ>::Ptr tree(new pcl::search::KdTree<pcl::PointXYZ>);

	for (float x = -5.0; x <= 5.0; x += 0.25)  
	{  
		for (float y = -5.0; y <= 5.0; y += 0.25)  
		{  
			pcl::PointXYZ cloud;  

			cloud.x = x;  
			cloud.y = y;  
			cloud.z = 1 - x - y;  
			inCloud->push_back(cloud);  
		}  
	}  

	tree.reset (new pcl::search::KdTree<pcl::PointXYZ> (false));
	tree->setInputCloud (inCloud);

	// Normal estimation
	pcl::NormalEstimation2<pcl::PointXYZ, pcl::Normal> ne2;
	pcl::PointCloud<pcl::Normal>::Ptr normals (new pcl::PointCloud<pcl::Normal> ());
	ne2.setInputCloud (inCloud);	
	ne2.setSearchMethod (tree);
	ne2.setKSearch (20);
	ne2.compute (*normals);

	pcl::PointCloud<pcl::PointNormal>::Ptr cloud_with_normals(new pcl::PointCloud<pcl::PointNormal>);  
	pcl::concatenateFields(*inCloud, *normals, *cloud_with_normals);  

	pcl::io::savePCDFile("plane_cloud_out.pcd", *cloud_with_normals);
}
檢視生成的plane_cloud_out.pcd檔案內容， 
# .PCD v0.7 - Point Cloud Data file format
VERSION 0.7
FIELDS x y z intensity normal_x normal_y normal_z curvature
SIZE 4 4 4 4 4 4 4 4
TYPE F F F F F F F F
COUNT 1 1 1 1 1 1 1 1
WIDTH 1681
HEIGHT 1
VIEWPOINT 0 0 0 1 0 0 0
POINTS 1681
DATA ascii
-5 -5 11 0 -0.33333454 -0.3333388 -0.33334672 -1.0737418e+008
-5 -4.75 10.75 0 -0.33333459 -0.33333915 -0.33334744 -1.0737418e+008
-5 -4.5 10.5 0 -0.33333349 -0.33333221 -0.33333147 -1.0737418e+008
-5 -4.25 10.25 0 -0.33333686 -0.33333236 -0.33333844 -1.0737418e+008
-5 -4 10 0 -0.33332857 -0.33334196 -0.33334109 -1.0737418e+008
-5 -3.75 9.75 0 -0.33333248 -0.33333272 -0.33333042 -1.0737418e+008
-5 -3.5 9.5 0 -0.33333799 -0.33333102 -0.33333802 -1.0737418e+008
-5 -3.25 9.25 0 -0.33333382 -0.33333775 -0.33334321 -1.0737418e+008
-5 -3 9 0 -0.33334044 -0.33332446 -0.3333298 -1.0737418e+008
-5 -2.75 8.75 0 -0.33333328 -0.33333099 -0.3333286 -1.0737418e+008
-5 -2.5 8.5 0 -0.33333698 -0.33332804 -0.33333004 -1.0737418e+008
-5 -2.25 8.25 0 -0.33332828 -0.33334482 -0.33334616 -1.0737418e+008
-5 -2 8 0 -0.33332947 -0.33334234 -0.33334357 -1.0737418e+008
-5 -1.75 7.75 0 -0.33333299 -0.3333362 -0.33333835 -1.0737418e+008
-5 -1.5 7.5 0 -0.33333793 -0.33332565 -0.33332711 -1.0737418e+008
-5 -1.25 7.25 0 -0.33333275 -0.33333525 -0.333336 -1.0737418e+008
-5 -1 7 0 -0.33333316 -0.33333406 -0.33333445 -1.0737418e+008
-5 -0.75 6.75 0 -0.33333361 -0.33333287 -0.3333329 -1.0737418e+008
-5 -0.5 6.5 0 -0.33333489 -0.33332995 -0.33332968 -1.0737418e+008

...
...
...
可以看出各點的法向量近似與(1, 1, 1)共線，這與從平面方程x + y + z = 1中得出的平面法向量保持一致！可以看出計算效果非常理想。
儘管上述結果不錯，但是如果修改下平面點雲的構造， 
        //減小步長，由0.25減到0.1
        for (float x = -5.0; x <= 5.0; x += 0.1)  
	{  
		for (float y = -5.0; y <= 5.0; y += 0.1)  
		{  
			pcl::PointXYZ cloud;  

			cloud.x = x;  
			cloud.y = y;  
			cloud.z = 1 - x - y;  
			inCloud->push_back(cloud);  
		}  
	}
再次執行測試程式，生成plane_cloud_out.pcd檔案內容，
# .PCD v0.7 - Point Cloud Data file format
VERSION 0.7
FIELDS x y z intensity normal_x normal_y normal_z curvature
SIZE 4 4 4 4 4 4 4 4
TYPE F F F F F F F F
COUNT 1 1 1 1 1 1 1 1
WIDTH 10201
HEIGHT 1
VIEWPOINT 0 0 0 1 0 0 0
POINTS 10201
DATA ascii
-5 -5 11 0 -0.36251435 -0.33222172 -0.40937933 -1.0737418e+008
-5 -4.9000001 10.9 0 -0.2965593 -0.36960894 -0.34049508 -1.0737418e+008
-5 -4.8000002 10.8 0 -0.30257833 -0.32366723 -0.26829782 -1.0737418e+008
-5 -4.7000003 10.700001 0 -0.32577419 -0.35322508 -0.36178556 -1.0737418e+008
-5 -4.6000004 10.6 0 -0.34574831 -0.31297931 -0.31971669 -1.0737418e+008
-5 -4.5000005 10.5 0 -0.3243891 -0.34880957 -0.34800133 -1.0737418e+008
-5 -4.4000006 10.400001 0 -0.31732634 -0.34978729 -0.33582667 -1.0737418e+008
-5 -4.3000007 10.300001 0 -0.32080838 -0.33909816 -0.32085085 -1.0737418e+008
-5 -4.2000008 10.200001 0 -0.3384032 -0.33768722 -0.35353974 -1.0737418e+008
-5 -4.1000009 10.1 0 -0.34146273 -0.31813207 -0.32056987 -1.0737418e+008
-5 -4.000001 10.000001 0 -0.3408044 -0.32376921 -0.32963032 -1.0737418e+008
-5 -3.900001 9.9000015 0 -0.29470387 -0.359045 -0.31496942 -1.0737418e+008
-5 -3.8000011 9.8000011 0 -0.35997671 -0.31077951 -0.34562108 -1.0737418e+008
-5 -3.7000012 9.7000008 0 -0.32181746 -0.33056432 -0.30722877 -1.0737418e+008
-5 -3.6000013 9.6000013 0 -0.32655463 -0.3454251 -0.34494016 -1.0737418e+008
-5 -3.5000014 9.5000019 0 -0.35073376 -0.32577616 -0.35558489 -1.0737418e+008
-5 -3.4000015 9.4000015 0 -0.34808326 -0.32221347 -0.3418338 -1.0737418e+008
-5 -3.3000016 9.3000011 0 -0.3261568 -0.33644432 -0.32556668 -1.0737418e+008
...
...
...
可以看出每個點的法向量不再近似共線於(1, 1, 1)。原因暫時還不清楚，個人推測為最小二乘法擬合平面適用於稀疏點集，密集點雲並不適合，原因可能是密集點時u_matrix_

各行向量非常近似於平行，導致行列式為0，無法求得正確的逆矩陣，而以上計算過程中是用到了逆矩陣；

如果樣例數m相比特徵數n少（m<n）或者特徵間線性相關時，由於clip_image002（n*n矩陣）的秩小於特徵個數（即clip_image002[1]不可逆）。因此最小二乘法clip_image004就會失效。

可以看出來，樣本矩陣的x、y、z三個列向量近乎於共線，當然也近乎於線性相關，如果真是這樣，那麼這裡最小二乘法並不適用！

真實原因有哪位朋友知道的話望告知！

雖然點雲密集時，計算出的法向量不夠準，但經過實踐發現，增加點K近鄰的樣本個數(即增加K鄰近演算法中的K值，本例中為k_)，計算出的法向量是可以近似共線於(1,1,1)。

個人分析，這裡增加點近鄰的樣本個數，實際上也是減小樣本矩陣的x、y、z三個列向量的共執行緒度，所以增加點近鄰的樣本個數後，就可以使用最小二乘法了。

對於稀疏點雲，以上擬合方式大多數情況下是可以的，但若平面與Z軸平行，則不可行，因為此時平面方程是無法轉化為z = A*x + B*y + C形式。下面針對平面方程最原始的一般式進行推導，過程如下：



 
注意，這裡U^T*U是一個4*4的方陣，求齊次線性方程組的非零解，問題可以轉換為求一個係數為3*3的方陣對應的齊次線性方程組，

類似地，可以將以上結論延伸至係數矩陣為4*4方陣對應的齊次線性方程組：


由此得到齊次線性方程組的非零解。

採用該方法，程式設計實現：

	   /** \brief 計算點的法向量，曲率暫時不求
	     * \param[in] 輸入點雲
	     * \param[in] 給定點的索引下標 
	     * \param[out] 法向量x分量 
	     * \param[out] 法向量y分量  
	     * \param[out] 法向量z分量  
	     * \param[out] 曲率 
	     */
	  inline void
		  computePointNormal (const pcl::PointCloud<PointInT> &cloud, const std::vector<int> &indices, float &nx, float &ny, float &nz, float &curvature)
	  {
	  	  Eigen::MatrixX4f mat_ext(k_, 4);
		  for (size_t i = 0, ind_num = indices.size(); i < ind_num; ++i)
		  {
			  size_t indice = indices[i];

			  mat_ext(i, 0) = cloud.points[indice].x;
			  mat_ext(i, 1) = cloud.points[indice].y;
			  mat_ext(i, 2) = cloud.points[indice].z;
			  mat_ext(i, 3) = 1;
		  }

		  Eigen::MatrixXf mat_mult_ext = mat_ext.transpose() * mat_ext;    //mat是3*k_矩陣，mat_ext是k_*4矩陣
		  // A*x = b, A.Row(0).cross(A.Row(1)) = eigenvector(0);
		  Eigen::Vector4f row_vec[3];
		  row_vec[0] = mat_mult_ext.row(0);
		  row_vec[1] = mat_mult_ext.row(1);
		  row_vec[2] = mat_mult_ext.row(2);
		  Eigen::Matrix3f i_cofactor, j_cofactor, k_cofactor, l_cofactor;    //計算叉積時，i、j、k、l分量的代數餘子式

		  for (size_t row_index = 0; row_index < 3; ++row_index)
		  {
			  for (size_t col_index = 0; col_index < 3; ++col_index)
			  {
				  i_cofactor(row_index , col_index) = row_vec[row_index][col_index + 1];

				  if (col_index < 1)
				  {
					  j_cofactor(row_index , col_index) = row_vec[row_index][col_index];
				  } 
				  else
				  {
					  j_cofactor(row_index , col_index) = row_vec[row_index][col_index + 1];
				  }

				  if (col_index < 2)
				  {
					  k_cofactor(row_index , col_index) = row_vec[row_index][col_index];
				  } 
				  else
				  {
					  k_cofactor(row_index , col_index) = row_vec[row_index][col_index + 1];
				  }

				  l_cofactor(row_index , col_index) = row_vec[row_index][col_index];
			  }
		  }

		  float i_dim = 0, j_dim = 0, k_dim = 0, l_dim = 0;
		  i_dim = i_cofactor.determinant();
		  j_dim = j_cofactor.determinant();
		  k_dim = k_cofactor.determinant();
		  l_dim = l_cofactor.determinant();
		  
		  Eigen::Vector3f coeff_vec(i_dim, -j_dim, k_dim);
		  float len = coeff_vec.squaredNorm();
		  coeff_vec /= len;

		  nx = coeff_vec[0];
		  ny = coeff_vec[1];
		  nz = coeff_vec[2];
	  }
採用以上方法實現後，編譯PCL原始碼得到對應的庫檔案，然後測試程式引用，執行後生成的plane_cloud_out.pcd檔案內容為： 
# .PCD v0.7 - Point Cloud Data file format
VERSION 0.7
FIELDS x y z intensity normal_x normal_y normal_z curvature
SIZE 4 4 4 4 4 4 4 4
TYPE F F F F F F F F
COUNT 1 1 1 1 1 1 1 1
WIDTH 1681
HEIGHT 1
VIEWPOINT 0 0 0 1 0 0 0
POINTS 1681
DATA ascii
-5 -5 11 0 0.0034180761 0.003418348 0.0033811682 -1.0737418e+008
-5 -4.75 10.75 0 0.0034180761 0.003418348 0.0033811682 -1.0737418e+008
-5 -4.5 10.5 0 0.0036986405 0.0036108212 0.0036840038 -1.0737418e+008
-5 -4.25 10.25 0 0.0041074576 0.0039950516 0.0042172931 -1.0737418e+008
-5 -4 10 0 0.0040342622 0.004034651 0.0041443072 -1.0737418e+008
-5 -3.75 9.75 0 0.004033945 0.0041615977 0.0040161251 -1.0737418e+008
-5 -3.5 9.5 0 0.0041075312 0.0040329853 0.0041812863 -1.0737418e+008
-5 -3.25 9.25 0 0.0040594526 0.0040964941 0.0040962985 -1.0737418e+008
-5 -3 9 0 0.0040834057 0.0040837992 0.0041210586 -1.0737418e+008
-5 -2.75 8.75 0 0.0041877129 0.0040933029 0.0041687908 -1.0737418e+008
-5 -2.5 8.5 0 0.0040593483 0.0040955977 0.0040955977 -1.0737418e+008
-5 -2.25 8.25 0 0.0040110592 0.0041013826 0.0040649828 -1.0737418e+008
-5 -2 8 0 0.0040473556 0.0040835626 0.0040469691 -1.0737418e+008
-5 -1.75 7.75 0 0.0040717809 0.0040713926 0.0040715868 -1.0737418e+008
-5 -1.5 7.5 0 0.004047934 0.0040837578 0.0040467749 -1.0737418e+008
-5 -1.25 7.25 0 0.0040838025 0.004065339 0.0040841922 -1.0737418e+008
-5 -1 7 0 0.0040716026 0.0040716026 0.0040712142 -1.0737418e+008
-5 -0.75 6.75 0 0.0040599061 0.0040774848 0.0040595187 -1.0737418e+008
-5 -0.5 6.5 0 0.0040714089 0.0040717972 0.0040717972 -1.0737418e+008
-5 -0.25 6.25 0 0.0040713926 0.0040717809 0.0040715868 -1.0737418e+008
-5 0 6 0 0.0040716026 0.0040712142 0.0040716026 -1.0737418e+008
-5 0.25 5.75 0 0.0040713926 0.0040715868 0.0040717809 -1.0737418e+008
-5 0.5 5.5 0 0.0040714089 0.0040717972 0.0040717972 -1.0737418e+008
...
...
...

可以看到點雲中每個點對應的法向量也都近似共線於(1, 1, 1)。與之前解非其次線性方程組的方法類似，當點雲資料比較密集(點與點間距離很小)時，計算出來的結果也是很不準的；同樣地，增加點K近鄰的樣本個數(即增加K鄰近演算法中的K值，本例中為k_)，計算出的法向量是可以近似共線於(1,1,1)。個人推測的原因見文章之前部分。

還是那句話，真實原因有哪位朋友知道的話望告知！



相關推薦

基於最小二乘法估計點雲的曲面法向量

之前對PCL庫計算三維點雲資料的曲面法向量有過介紹，點雲的曲面法向量估計，PCL庫是採用主成份分析方法的，近幾天通過理論推導發現最小二乘法應該也能計算曲面法向量。首先介紹下其理論知識。 估計某個點的法向量，可以類似於點雲的曲面法向量估計，將該點附近K近鄰的點近似在一個區域性

純數學手段實現基於最小二乘法的線性迴歸

終於，抱著興趣，我利用純數學的手段實現了基於最小二乘法的線性迴歸模型。這是我昨天的目標（今天我還沒有睡覺呢，假設我睡覺後是明天的話），那麼我明天希望能夠利用純數學手段實現基於隨機梯度下降的線性迴歸演算法模型。         下面是筆者手打的最小二乘法的數學原理,然後我們再

曲線擬合的最小二乘法（基於OpenCV實現）的，擬合影象中離散點的擬合直線

   今天使用擬合的最小二乘法，求出了給定的一組座標系上的點對最接近的直線的。　　其具體理論如下：    在科學實驗資料處理中，往往要根據一組給定的實驗資料，求出自變數x與因變數y的函式關係，這是為待定引數，由於觀測資料總有誤差，且待定引數ai的數量比給定資料點的數量少(

最小二乘法和最大似然估計的聯系和區別（轉）

enc bsp 聯系 角度 tro span nbsp sdn .science 對於最小二乘法，當從模型總體隨機抽取n組樣本觀測值後，最合理的參數估計量應該使得模型能最好地擬合樣本數據，也就是估計值和觀測值之差的平方和最小。而對於最大似然法，當從模型總體隨機抽取n組樣本觀

基於自動分段最小二乘法對股票的多項式曲線擬合

基於自動分段最小二乘法對股票的多項式曲線擬合 摘 要 針對傳統的分段最小二乘法確定分段步長時經驗成分較多的不足，提出一種通過比較擬合優度，自動確定相對最優的步長。通過實際資料的驗證，驗證了此方法的擬合效果。 關鍵詞  分段擬合  多項式曲線  最小二乘法 引言

基於OpenCV資料結構最小二乘法擬合圓-程式碼部分

對於網上常用的擬合圓程式碼(經過修改， 因為除數可能為0) /* * 參考: http://blog.csdn.net/liyuanbhu/article/details/50889951 * 通過最小二乘法來擬合圓的資訊 * pts: 所有點座標 * center: 得到

cornerSubPixel亞畫素角點檢測原始碼分析（最小二乘法）

OpenCV的中有cornerSubPixel（）這個API函式用來針對初始的整數角點座標進行亞畫素精度的優化，該函式原型如下： C++: void cornerSubPix(InputArray image, InputOutputArray corners, Siz

曲線擬合的最小二乘法（基於OpenCV實現）

在科學實驗資料處理中，往往要根據一組給定的實驗資料，求出自變數x與因變數y的函式關係，這是為待定引數，由於觀測資料總有誤差，且待定引數ai的數量比給定資料點的數量少(即n＜m)，因此它不同於插值問題.這類問題不要求通過點，而只要求在給定點上的誤差的平方和最小.當時，即 　　

極大似然估計與最小二乘法(轉自知乎)

剛開始學機器學習，總是碰到這兩個概念，每次看一遍解析，過幾天忘一遍，覺得知乎上的大神講的比較透徹，搬運過來，方便自己以後忘了重新看一看。 最大似然估計：現在已經拿到了很多個樣本（你的資料集中所有因變數），這些樣本值已經實現，最大似然估計就是去找到那個（組）引數

R語言與點估計學習筆記（刀切法與最小二乘估計）

一、       刀切法（jackknife）         刀切法的提出，是基於點估計準則無偏性。刀切法的作用就是不斷地壓縮偏差。但需要指出的是縮小偏差並不是一個好的辦法，因為偏差趨於0時，均方誤差會變得十分大。而且無偏性只有在大量重複時才會表現出與真值的偏差不大。Ja

關於最大似然估計和最小二乘法的理解和公式推導

最小二乘法可以從Cost/Loss function角度去想，這是統計（機器）學習裡面一個重要概念，一般建立模型就是讓loss function最小，而最小二乘法可以認為是 loss function = （y_hat -y )^2的一個特例，類似的想各位說的還可以用各種距離度量來作為loss functi

極大似然估計 極大後驗估計 貝葉斯估計 最小二乘法

1 極大似然估計 極大似然估計(Maximum Likelihood Estimation, MLE)/最大似然估計/最大概似估計 是一種引數估計方法，即已知樣本估計出模型的引數。 一般說來，事件A發生的概率與某一未知引數θ有關，θ取值不同，則事件

機器學習演算法篇：最大似然估計證明最小二乘法合理性

最小二乘法的核心思想是保證所有資料誤差的平方和最小，但我們是否認真思考過為什麼資料誤差平方和最小便會最優，本文便從最大似然估計演算法的角度來推導最小二乘法的思想合理性，下面我們先了解一下最大似然估計和最小二乘法，最後我們通過中心極限定理剋制的誤差ε服從正態分佈

迴歸分析中的引數估計為何是最小二乘法（least squares），不是最小一乘法(least absolute deviations)

如題，面試被問到了。今天網上找了些資料，整理了一下。 迴歸分析就是找到一條最合適的擬合線來逼近所有的觀測點。如何衡量擬合的好壞程度呢，直接地，就是看擬合值與觀測值之間的距離了。在這種情況下，我們直接用擬合值與觀測值差的絕對值就可以衡量誤差（如公式1），為什麼要用差的平方呢（

基於迴歸曲線擬合模型的ALS(最小二乘法)推導過程以及Python實現

概念 最小二乘法（Alternative -Least-Squares）是一種迭代演算法。它通過最小化誤差的平方和尋找資料的最佳函式匹配。利用最小二乘法可以簡便地求得未知的資料，並使得這些求得的資料與實際資料之間誤差的平方和為最小。最小二乘法可用於曲線擬合。

R語言中如何使用最小二乘法

一次函數 python 散點圖 博客 如何 這裏只是介紹下R語言中如何使用最小二乘法解決一次函數的線性回歸問題。 代碼如下：(數據同上一篇博客)(是不是很簡單????)> x<-c(6.19,2.51,7.29,7.01,5.7,2.66,3.98,2.5,9.1

Python中如何使用最小二乘法

python 技術 如何 模型 平面 之所以說”使用”而不是”實現”，是因為python的相關類庫已經幫我們實現了具體算法，而我們只要學會使用就可以了。隨著對技術的逐漸掌握及積累，當類庫中的算法已經無法滿足自身需求的時候，我們也可以嘗試通過自己的方式實現各種算法。 言

機器學習-最小二乘法

red num class cat blank height mar 感覺 時間 一、引言 這段時間學習《機器學習》，學到第5章的“Logistic回歸”，感覺相當吃力。追本溯源，從“Logistic回歸”到“線性回歸”，再到“最小二乘法”。最終定格到了《高等數學》（第六版

Regularized least-squares classification（正則化最小二乘法分類器）取代SVM

得出 ack 提高 kernel sys 風險 重要 ref height 在機器學習或者是模式識別其中有一種重要的分類器叫做：SVM 。這個被廣泛的應用於各個領域。可是其計算的復雜度以及訓練的速度是制約其在實時的計算機應用的主要原因。因此也非常非常多的算法

15-最小二乘法搞不定的，讓RANSAC來吧！

統計學 但是 rom 指定 車上 mat table oss div 現實生活總是充滿了雜音。記得高中時，班上某學霸喜歡戴著耳機邊聽JAY的歌邊學習，或許這樣可以幫他進入一個心如止水的境界。剛畢業那會，我也喜歡在班車上戴著耳機聽歌，似乎逃避現實是常態。把嘈雜的現實屏蔽在