【吳恩達機器學習筆記】第三章：線性迴歸回顧

阿新 • • 發佈：2019-01-13

在這裡插入圖片描述

本章是對線性代數的一些簡單回顧，由於之前學過，所以這裡只是簡單的將課程中的一些例子粘過來矩陣表示矩陣加法和標量乘法矩陣向量乘法用矩陣向量乘法來同時計算多個預測值矩陣乘法用矩陣乘法同時計算多個迴歸

目錄多特徵下的目標函式多元梯度下降法多元梯度下降法中的方法特徵縮放選擇學習率特徵和多項式迴歸正規方程（區別於迭代法的直接解法）正規方程在矩陣不可逆的情況下的解決方法

與上一週作業相同，按著公式程式設計就好了 function [J, grad] = lrCostFunction(theta, X, y, lambda) %LRCOSTFUNCTION Compute cost and gradient for logisti

第三週六、邏輯迴歸(Logistic Regression) 這裡首先區分一下線性迴歸和邏輯迴歸，線性迴歸就是擬合，邏輯迴歸是分類。 6.2 假說表式（Hypothesis Representation）下面一個部分主要講的是假設函式h（x）在分類問題中輸出只能是0/

一、引入在前幾節課我們講到，我們希望能夠找到曲線擬合效果最好的線條，這樣的線條的誤差最小，所以就轉化成了下面這幅圖所表達的內容。我們有一些函式，這些函式會有n個引數，我們希望能得到這個函式的最小值，為了方便計算，我們從最簡單的入手，讓引數的個數

Logistic Regression邏輯迴歸（分類）： 0:Negative Class 1:Positive Class 二元分類問題講起，雖然有迴歸二字，其實為分類演算法，處理離散y值。

一、Previously on Note01 接下來我們學習的第一個演算法是線性迴歸演算法。還是一個關於預測房價的例子，資料集包含了俄勒岡州波特蘭市的住房價格。如果你有個朋友有1250英尺的房子，那麼如圖你可以告訴你的朋友大概買220美元就可以了。這是一個

都是 mea 預測 learn 會有 code 度量 its 價格定義　　　Tom Mitchell對機器學習定義為“計算機從經驗E中學習，解決某一任務T，進行某一度量P,通過P測定在T上的表現因經驗E而提高”。定義個人覺得大體理解即可，如果扣文咬字去理解會十分痛苦，就

gre ima 梯度下降算法 line 公式 delta mat 所有 pan 單變量線性回歸綱要代價函數梯度下降算法全局最優與局部最優代價函數函數定義： \[ J(\theta_0,\theta_1,...)=\frac{1}{2m}\sum_{i=1}^

神經網路——模型學習 Cost Function:從邏輯迴歸推廣過來計算最小值，無論用什麼方法，都需要計算代價和偏導。網路結構的前向傳播和可向量化的特點： BP演算法：總結：

預測分類器 -s 多個不同的一對多直線問題 com 　　對於之前的一個，二元分類問題，我們的數據看起來可能是像這樣：　　對於一個多類分類問題，我們的數據集或許看起來像這樣：　　我用3 種不同的符號來代表3 個類別，問題就是給出3 個類型的數據集，我們如何得

在這部分中，你將使用多變數線性迴歸去預測房屋價格，假設你要賣掉房子而且你想知什麼是一個好的市場價格，去做的一個方式就是首先收集最近出售的房子資訊並製作房屋價格的模型，檔案ex1data2/txt包含了一個房屋價格在Portland的訓練集，第一列是房子大小，第二列是臥室的

不得不說安卓老師是真的用心良苦，給我們把程式設計題弄成了填空題，但是很可惜原版使用的是Octave和MATLAB所以作為初學者我就直接當程式設計題用python去做了問題：讓你繪製一個5階單位陣答案：在本練習的這一部分，你將應用線性迴歸來實現通

課程前言： arg max的引數是函式最大化的某個函式的域的點，與全域性最大值相比引數函式的最大輸出，arg max指的是函式輸出儘可能大的輸入或引數閉式解：給出任意自變數，就可以求出因變數最小二乘法：通過最小化誤差的平方和尋找資料的最佳函式匹配

分類哪些 rep epm 朋友工作 style class 客戶 1 無監督學習：在不知道數據點的含義的情況下，從一個數據集中找出數據點的結構關系。 2 聚類算法：相同屬性的數據點會集中分布，聚集在一起，聚類算法將數據集分成不同的聚類。也就是說，機器不知道這些數據點具體

工作方式樣本 body 聚類屬性 bsp 定義算法信息 1 回顧1.1 監督學習定義：給定正確答案的機器學習算法分類：（1）回歸算法：預測連續值的輸出，如房價的預測（2）分類算法：離散值的輸出，如判斷患病是否為某種癌癥1.2 非監督學習定義：不給定數據的信息的情況下

info alt 學習 ima 代價函數 png 線性回歸 gpo mage 單變量線性回歸函數 hθ(x) = θ0 + θ1x 為了使線性回歸函數對數據有較好的預測性，即y到h(x)的距離都很小。【吳恩達機器學習】學習筆記——代價函數

得到向導 bubuko gpo 思路 pos 方向導數 ... image 梯度下降算法能夠幫助我們快速得到代價函數的最小值算法思路：以某一參數為起始點尋找下一個參數使得代價函數的值減小，直到得到局部最小值梯度下降算法：重復下式直至收斂，其中α為學習速

com 梯度 .com 局部最優 alt ima 實現梯度下降 width 梯度下降算法：　　　　　　　　　　　　　　線性回歸模型：　　　　　　線性假設：　　　　　　　　　　　　　　　　　　　　　平方差成本函數：將各個公式代入，對θ0、θ1分別求偏導得：再將偏

一，假設函式： 1）邏輯迴歸（Logistic Regression)，Logistic function, Sigmoid function是同一個意思，函式形式（假設函式形式）如下: 邏輯迴歸是二分類演算法，hθ(x)>=0.5hθ(x)&g