寫吳恩達老師機器學習課時使用scipy.optimize.fmin_cg結果出現問題

阿新 • • 發佈：2018-12-18

訓練完成提示：

Warning: Desired error not necessarily achieved due to precision loss.
         Current function value:

原因是我前邊的def computeCost(myTheta,myX,myy,mylambda = 0.):#代價函式第一個引數myTheta寫錯，正確應該是mytheta...................這個破問題找了一個小時，傷心,改掉就好了

訓練完成提示： Warning: Desired error not necessarily achieved due to precision loss. Current function value: 原因是我前邊的def computeCost(m

明天就要開組會了，天天在辦公室划水都不知道講啥。。。今天開始異常檢測的學習，同樣程式碼比較簡單一點異常檢測的原理就是假設樣本的個特徵值都呈高斯分佈，選擇分佈較離散的樣本的作為異常值。這裡主要注意的是通過交叉驗證對閾值的選擇和F1score的應用。原始資料：程式碼如下：

接著學習主成分分析，這個演算法在之前計量地理學的作業裡寫過，不過前者稍微囉嗦了一點。原始二維資料：放程式碼： load('ex7data1.mat'); [m n]=size(X); X=(X-mean(X))./std(X); sigma=1/m*(X'*X); % 求取協

運用K-means聚類演算法進行影象壓縮趁熱打鐵，修改之前的演算法來做第二個練習—影象壓縮原始圖片如下：程式碼如下： X =imread('bird.png'); % 讀取圖片 X =im2double(X); % unit8轉成double型別 [m,n,z]=size

今天接著學習聚類演算法以後堅決要八點之前起床學習！不要浪費每一個早晨。 K-means聚類演算法聚類過程如下：原理基本就是先從樣本中隨機選擇聚類中心，計算樣本到聚類中心的距離，選擇樣本最近的中心作為該樣本的類別。最後某一類樣本的座標平均值作為新聚類中心的座標，如此往復。原

今天的部分是利用高斯核函式對分佈稍微複雜一點的資料進行分類這裡的高斯核函式是構建新的特徵，該特徵是關於到其餘所有樣點的歐式距離。下面放出程式碼： load('ex6data2.mat'); [m n]=size(X); f=zeros(m,m); a=0.005 for i=

時隔好久沒有再拾起機器學習了，今日抽空接著學今天是從最簡單的二維資料分類開始學習SVM~ （上圖為原始資料） SVM的代價函式這裡套用以前logistic迴歸的模板改一下下。。 load('ex6data1.mat'); theta=rand(3,1); [

明天就要開組會了，天天在辦公室划水都不知道講啥。。。今天開始異常檢測的學習，同樣程式碼比較簡單一點異常檢測的原理就是假設樣本的個特徵值都呈高斯分佈，選擇分佈較離散的樣本的作為異常值。這裡主要注意的是通過交叉驗證對閾值的選擇和F1score的應用。原始資料：

機器學習策略(machine learning strategy)：分析機器學習問題的方法。正交化(orthogonalization)：要讓一個監督機器學習系統很好的工作，一般要確保四件事情，如下圖： (1)、首先，你通常必須確保至少系

額外分享哪些 TP 回歸分享圖片表現例子兩個 7.1過擬合的問題訓練集表現良好，測試集表現差。魯棒性差。以下是兩個例子（一個是回歸問題，一個是分類問題）解決辦法：（1）丟棄一些不能幫助我們正確預測的特征。可以使用工選擇保留哪些特征，或者使用一些模型選擇

是否 5.6 問題 com 結果平移分享出現問題計算過程 15.1問題的動機將正常的樣本繪制成圖表（假設可以），如下圖所示：當新的測試樣本同樣繪制到圖標上，如果偏離中心越遠說明越可能不正常，使用某個可能性閾值，當低於正常可能性閾值時判斷其為異常，然後做進一步的

神經網路總結 step1:選擇神經網路架構確定輸入單元數（一般與訓練集特徵數相符）、輸出單元數、以及隱藏層。如果隱藏層大於1層，那麼所有的隱藏層的單元數應該相等。如圖：輸出單元為3，輸出單元為4，隱藏層單元數為5。如果訓練集（x,y),y有四個值{1，2，3，4

1. function [J, grad] = lrCostFunction(theta, X, y, lambda) %LRCOSTFUNCTION Compute cost and gradient for logistic regression with %regu

邏輯迴歸(牛頓法) 指數分不族廣義線性模型;將邏輯迴歸和最小二乘模型聯絡在一起。極大似然估計模型 (1)初始化thta，引數可初始化為0； (2) delta=f(thta0)/f’(thta0) thta1=thta0-delta=thta0-f(thta

1.核函式這裡的核函式的定義是高斯核函式。度量的是x與l值之間的歐式距離。對於高斯核函式來說，L一般被稱為標記點，一般直接選取樣本中的X，比如那麼我們如何計算f呢：對於每一個來說，我們選定x,然後使用不同的來計算：比如因此，m是樣本個數。 n

1.K-means方法是什麼？ 1.首先K-meas方法是一種無監督的聚類問題。 2.方法內容：首先需要確定聚類中心u和聚類數量K:我們可以隨機選擇中心u；當K<m（m是樣本數)，我們可以隨機選擇K個樣本作為聚類中心，這個方法一般效果會好一些。聚類數量K我們可以通過

1.PCA思想： PCA有兩個作用，一個是降維，一個是資料視覺化。通過降維可以達到資料視覺化的目標。將D維降到K維：尋找K個向量，然後將樣本點投影到這K個向量中，使得投影誤差最小。比如:從2D到1D：找一條直線，將空間中的點垂直投影到這條直線距離上（正交距離），求一條使得這

1.異常檢測 1.1思路簡述首先是一些沒有標籤的資料進行p(x)建模，就是擬合數據得到一個符合資料規律的p(x)，然後根據一個特定的閾值來判斷，是否異常。 1.2具體步驟（假設p(x)符合高斯）在octave中，我們可以使用hist視覺化直方圖來看資料是否是高斯分

1.基於內容的推薦系統以電影推薦為例，先介紹以下引數： r(i,j)表示使用者j對於電影i是否進行了評分。1表示已經評分，0表示沒有評分。表示使用者j對電影i的評分情況。總共1-5分。表示對使用者j喜愛電影題材的描述情況.比如(0,5,0)表示每列分別對應玄

1.診斷偏差與方差：學習曲線學習曲線可以將開發集的誤差與訓練集樣本的數量進行關聯比較。想要繪製出它，你需要設定不同大小的訓練集執行演算法。假設有1000個樣本，你可以選擇在規模為100、200、300、····1000的樣本集中分別執行演算法，接著便能得到開發集誤差隨訓練