斯坦福大學機器學習課程第二周筆記
簡記
- 軟件安裝
- Octave
- matlab
- 多元線性回歸multiple linear regression
- 多元梯度下降
- 特征縮放feature scaling
- 學習速率learning rate
- 正規方程normal equation --- 第二個算法
- 正規方程的不可逆性noninvertibility
- Octave基礎語法
- 向量化vectorization
斯坦福大學機器學習課程第二周筆記
相關推薦
斯坦福大學機器學習課程第二周筆記
線性 line bili tla oct linear 基礎語 大學 學習 簡記 軟件安裝 Octave matlab 多元線性回歸multiple linear regression 多元梯度下降 特征縮放feature scaling 學習速率learning
吳恩達斯坦福大學機器學習 CS229 課程學習筆記（一）
說到機器學習總繞不過幾個鼎鼎大名的人物，他們都創造了不少的機器學習資料，斯坦福吳恩達Andrew Ng的公開課CS229；Google李飛飛的CS231、周志華的、李航的《統計學習方法》、林軒田的《機器學習基石》、Peter Harringtond 的《機器學習實戰》、周志華
Machine Learning（Stanford）| 斯坦福大學機器學習筆記--第二週（1.多元線性迴歸及多元線性迴歸的梯度下降）
一.Multivariate Linear regression(多元線性迴歸) 現在起將開始介紹一種新的更為有效的線性迴歸形式。這種形式適用於多個變數或者多特徵量的情況。 在之前學習過的線性迴歸中
斯坦福CS229機器學習課程筆記一：線性迴歸與梯度下降演算法
機器學習三要素 機器學習的三要素為：模型、策略、演算法。 模型：就是所要學習的條件概率分佈或決策函式。線性迴歸模型 策略：按照什麼樣的準則學習或選擇最優的模型。最小化均方誤差，即所謂的 least-squares(在spss裡線性迴歸對應的模組就叫OLS即Ordinary Least Squares)：
斯坦福NG機器學習課程：Anomaly Detection筆記
Anomaly DetectionVS Supervised Learning 說到這裡我們肯定都有困惑，當我們有資料類標籤，為什麼我們不直接使用監督性學習而使用Anomaly detection，接下來就對兩者進行對比。 首先Anomaly detection 在資料集上特點是：很少量的posit
斯坦福大學機器學習筆記——異常檢測演算法（高斯分佈、多元高斯分佈、異常檢測演算法）
異常檢測問題介紹： 異常檢測演算法主要用於無監督學習問題，但從某種角度看它又類似於一種有監督學習的問題，下面我們從一個例子中簡單介紹一下什麼是異常檢測問題。 比如我們有一個飛機引擎製造商，對於一個新造出的飛機引擎我們想判斷這個引擎是不是異常的。 假如我們有
斯坦福大學機器學習筆記——聚類（k-均值聚類演算法、損失函式、初始化、聚類數目的選擇）
上面的部落格的演算法都是有監督學習的演算法，即對於每個資料我們都有該資料對應的標籤，資料集的形式如下： 而今天我們學習的演算法是一種無監督學習的演算法——聚類，該演算法中的每個資料沒有標籤，資料集的形式如下： K-均值聚類 k-均值聚類是一種最常見
斯坦福大學機器學習筆記——推薦系統（協同過濾、低秩分解、推薦系統）
這個部落格讓我們來討論一下推薦系統，首先我們來討論一下為什麼學習推薦系統： 1. 推薦系統是機器學習中的一個重要應用，它已經用於很多企業中，比如淘寶、今日頭條、亞馬遜等。它們會根據你的瀏覽記錄，當你再
Machine Learning（Stanford）| 斯坦福大學機器學習筆記--第一週（1.監督學習與無監督學習的介紹）
以上例子中，總共有兩個特徵，即病人年齡和腫瘤大小。在別的ML問題中，經常會用到更多特徵，別人在研究這個問題時， 通常使用如下這些特徵：比如腫瘤的厚度，腫瘤細胞大小和形狀的一致性等等。 真正對於一些學習問題，用到的不只是三五個特徵，經常要用到無數多個特徵，非常多的屬性。所以，你的學習演算法要利用很多的屬性或特徵
斯坦福大學機器學習筆記——正則化的邏輯迴歸模型
在上面部落格中我們討論了正則化的線性迴歸模型，下面我們來討論一下正則化的邏輯迴歸模型。 前面我們講述了兩種常用於邏輯迴歸的方法： 基於梯度下降法的邏輯迴歸模型 基於高階優化的邏輯迴歸模型 基於
斯坦福大學機器學習筆記——多變數的線性迴歸以及梯度下降法注意事項（內有程式碼）
在前面部落格中介紹了單變數線性迴歸的實現過程，本文將介紹多變數線性迴歸演算法。 兩者的對比如下： 1.資料方面的差異： 單變數線性迴歸資料： 多變數線性迴歸資料： 對於單變數線性迴歸來說，只有一個特徵（房子的大小），而對於多變數線性特徵迴歸特徵
斯坦福大學機器學習筆記——單變數的線性迴歸以及損失函式和梯度下降法（包含程式碼）
迴歸問題： 所謂的迴歸問題就是給定的資料集，且每個資料集中的每個樣例都有其正確的答案，通過給定的資料集進行擬合，找到一條能夠最好代表該資料集的曲線，然後對於給定的一個樣本，能夠預測出該樣本的答案（對於迴歸問題來說，最終的輸出結果是一個連續的數值）。比如
斯坦福大學機器學習筆記——特徵和多項式迴歸以及正規方程
我們可以舉一個例子來引入多項式迴歸： 比如我們之前遇到的房價問題，對於房價的影響我們假設有兩個特徵，一個是房子的寬度x1，另外一個是房子的長度x2，這針對房價的估測我們可以建立下面形式的假設： hθ
斯坦福大學機器學習筆記——邏輯迴歸、高階優化以及多分類問題
shi先簡單說一下邏輯迴歸，其實會有很多人誤解，會將邏輯迴歸當成迴歸演算法，其實邏輯迴歸就是我們所說的分類問題，所謂的邏輯，一般我們說的邏輯就是邏輯0或者邏輯1，所以可以藉此理解。但是邏輯迴歸不僅僅只包括兩分類問題，它還包括多分類問題。 那麼能否使用線性迴歸的
斯坦福大學機器學習筆記——機器學習系統設計（誤差分析、查全率和查準率、F1值）
這次部落格我們主要討論機器學習系統設計的主要問題，以及怎樣巧妙的構建一個複雜的機器學習系統。 我們先用一個例子引入機器學習系統的設計： 以一個垃圾郵件分類器演算法為例： 對於該問題，我們首先要做的是怎樣選擇並且表達特徵向量x。我們可以選擇100個詞所構
Ng深度學習課程-第二章筆記摘要
計算機中為了儲存一張圖片，需要儲存三個矩陣，它們分別對應圖片中的紅、綠、藍三種顏色通道。如果你的圖片大小為 64x64 畫素，那麼就有三個規模為 64x64 的矩陣，分別對應圖片中紅、綠、藍三種畫素的強度值。為了把這些畫素值放到一個特徵向量
吳恩達-斯坦福CS229機器學習課程資料與演算法的Python實現
學習stanford cs229 manchine learning課程已經有三個月左右，雖然說網友們說這門課相比於Coursera（吳恩達老師的網課機構）中的機器學習有更多的數學要求和公式的推導，本著想總體瞭解機器學習的念頭，開始了機器學習的自學過程。 這
斯坦福大學機器學習第一課“引言(Introduction)”
一、機器學習概覽1）機器學習定義:機器學習是人工智慧的一個分支，目標是賦予機器一種新的能力。機器學習的應用很廣泛，例如大規模的資料探勘（網頁點選資料，醫療記錄等），無人駕駛飛機、汽車，手寫手別，大多數的自然語言處理任務，計算機視覺，推薦系統等。 機器學習有很多定義，廣為人知的有如下兩條： Arthur
斯坦福大學機器學習——誤差理論（Error Theory）
一、偏倚（bias）和方差(variance) 在討論線性迴歸時，我們用一次線性函式對訓練樣本進行擬合（如圖1所示）；然而，我們可以通過二次多項式函式對訓練樣本進行擬合（如圖2所示），函式對樣本的擬合程式看上去更“好”；當我們利用五次多項式函式對樣本進行擬合（如圖3所示），
斯坦福大學機器學習——交叉驗證（Cross Validation）
假設我們需要從某些候選模型中選擇最適合某個學習問題的模型，我們該如何選擇？以多元迴歸模型為例：，應該如何確定k的大小，使得該模型對解決相應的分類問題最為有效？如何在偏倚（bias）和方差（variance）之間尋求最佳的平衡點？更進一步，我們同樣需要知道如何在加權迴歸模型中