一直對線性非線性沒有很準確的定義認識,今天特意查了查,特此記錄下。

怎樣區分線性和非線性

1.線性Line，是指量與量之間按照比例成直線關係，在數學上可理解為一階導數是個常數；

   非線性non-line則指不按照比例不成直線關係，一節導數不為常數。

2.線性可以認為是1次曲線，比如比如y=ax+b ，即成一條直線

    非線性可認為是2次以上的曲線，比如y=ax^2+bx+c，（x^2是x的2次方），即不為直線的即可。

3.兩個變數之間的關係是一次函式的關係影象是直線，這樣的兩個變數之間就是“線性關係”

   如果不是一次函式關係，影象不是直線，就是“非線性關係”。

4.線性與非線性，常用於區別函式y = f （x）對自變數x的依賴關係。線性函式即一次函式，其影象為一條直線。其它函式則為非線性函式，其影象不是直線。

5.在數學上，線性關係是指自變數x與因變數yo之間可以表示成y=ax+b ，（a，b為常數），即說x與y之間成線性關係。

　　不能表示成y=ax+b ，（a，b為常數），即非線性關係，非線性關係可以是二次，三次等函式關係，也可能是沒有關係。

線性模型和非線性模型的區別

　誤區

　　1、線性和非線性的區別是是否可以用直線將樣本劃分開（這個觀點是對的）

　　2、和同學討論到logistics模型是線性還是非線性的，很難理解！（logistics模型是廣義線性模型）

　　3、區分一下回歸和分類問題，線性模型是可以用來曲線擬合（迴歸）的，但是線性模型模型的分類一定是一條直線的，例如logistics模型。

線性模型和非線性模型區別

　　1、線性模型可以是用曲線擬合樣本，但是分類的決策邊界一定是直線的，例如logistics模型

　　2、區分是否為線性模型，主要是看一個乘法式子中自變數x前的係數w，如果w隻影響一個x，那麼此模型為線性模型。或者判斷決策邊界是否是線性的

        3、舉例

畫出y和x是曲線關係，但是它是線性模型，因為x1*w1中可以觀察到x1只被一個w1影響

此模型是非線性模型，觀察到x1不僅僅被引數w1影響，還被w5影響，如果自變數x被兩個以上的引數影響，那麼此模型是非線性的！

　4、其實最簡單判別一個模型是否為線性的，只需要判別決策邊界是否是直線，也就是是否能用一條直線來劃分

　　神經網路是非線性

　　雖然神經網路的每個節點是一個logistics模型，但是組合起來就是一個非線性模型。

　　此處我們僅僅考慮三層神經網路

　第一層的表示式

　第二層的表示式

將第一層的表示式帶入第二層表示式中，可以觀察到x1變數不僅僅被w1影響還被k2影響，所以此模型不是一個線性模型，是個非線性模型。