機器學習9、10、12/100天-SVM直觀認識
github: 100DaysOfMLCode
What is SVM:
SVM是一種監督學習演算法，可用於分類問題和迴歸問題，主要用於分類問題。在該演算法中，將資料的每一個特徵看作是n維空間的一個維度，之後對空間中的點進行分類劃分。
How is the data Classified:
分類方法是找到一個超平面，可以將資料劃分在超平面的兩側。
What is a optimal Hyper-Plane?
最佳超平面是劃分的兩類資料點中距超平面距離最近的點到超平面的距離最大。
非線性資料
對非線性資料無法找到一個線形平面進行劃分，則可以採用維度變換，比如二維空間的一個圓，令
z=x2+y2,則在三位空間內，對z的劃分可以實現圓內和圓外的劃分。
通常採用核方法處理非線性資料。
調參
1.Kernel
核方法對資料做變換，多項式、指數等核在更高維度計算劃分平面。
2.GAMMA
gamma低表明離分割平面遠的點也參與分割平面計算，gamma高表明離分割平面遠的點參與度低。
3.REGULARIZATION
正則化，超平面的複雜度
4.MARGIN
相關推薦
機器學習9、10、12/100天-SVM直觀認識
github: 100DaysOfMLCode What is SVM: SVM是一種監督學習演算法，可用於分類問題和迴歸問題，主要用於分類問題。在該演算法中，將資料的每一個特徵看作是n維空間的一個維度，之後對空間中的點進行分類劃分。 How is the data Classi
吳恩達-機器學習(9)-異常檢測、協同過濾
文章目錄 Density Estimation Problem Motivation Gaussian Distribution Algorithm Building an Anomaly
快速判斷一個數能否被1、2、3、4、5、6、7、8、9、10、11、12、13、17、19、23等整除的規律
快速判斷一個數能否被1、2、3、4、5、6、7、8、9、10、11、12、13、17、19、23等整除的規律總結 （1） 1與0的特性： 1是任何整數的約數，即對於任何整數a，總有1|a. &nb
李巨集毅機器學習課程筆記10：Ensemble、Deep Reinforcement Learning
臺灣大學李巨集毅老師的機器學習課程是一份非常好的ML/DL入門資料，李巨集毅老師將課程錄影上傳到了YouTube，地址：NTUEE ML 2016 。 這篇文章是學習本課程第27-28課所做的筆記和自己的理解。 Lecture 27: Ensembl
25.求出1~13的整數中1出現的次數,並算出100~1300的整數中1出現的次數？為此他特別數了一下1~13中包含1的數字有1、10、11、12、13因此共出現6次,但是對於後面問題他就沒轍了。AC
題目：求出1~13的整數中1出現的次數,並算出100~1300的整數中1出現的次數？為此他特別數了一下1~13中包含1的數字有1、10、11、12、13因此共出現6次,但是對於後面問題他就沒轍了。AC
周志華機器學習讀後總結 第12、13章
計算學習理論 什麼是計算學習理論 計算學習理論是關於機器學習的理論基礎，其目的是分析學習任務的困難本質，為學習演算法提供理論保證，並根據分析結果指導演算法設計。泛化誤差和經驗誤差是計算學習理論的兩個重要概念，現實中我們常用經驗誤差作為泛化誤差的近擬。 PAC學習 PAC學
機器學習系列之偏差、方差與交叉驗證
一、偏差與方差 在機器學習中，我們用訓練資料集去訓練（學習）一個model（模型），通常的做法是定義一個Loss function（誤差函式），通過將這個Loss（或者叫error）的最小化過程，來提高模型的效能（performance）。然而我們學習一個模型的目的是為了解決實際的問題（或者說是
機器學習：線性迴歸、嶺迴歸、Lasso迴歸
轉載自：https://blog.csdn.net/hzw19920329/article/details/77200475 線性迴歸作為一種迴歸分析技術，其分析的因變數屬於連續型變數，如果因變數轉變為離散型變數，將轉換為分類問題。迴歸分析屬於有監督學習問題，本部落格將重點回
【機器學習基礎】熵、KL散度、交叉熵
熵（entropy）、KL 散度（Kullback-Leibler (KL) divergence）和交叉熵（cross-entropy）在機器學習的很多地方會用到。比如在決策樹模型使用資訊增益來選擇一個最佳的劃分，使得熵下降最大；深度學習模型最後一層使用 softmax 啟用函式後，我們也常使用交叉熵來
【機器學習】先驗概率、似然函式、後驗概率、對數似然函式等概念的理解
1）先驗：統計歷史上的經驗而知當下發生的概率； 2）後驗：當下由因及果的概率； 2、網上有個例子說的透徹： 1）先驗——根據若干年的統計（經驗）或者氣候（常識），某地方下雨的概率； 2）似然——看到了某種結果，對產生結果的原因作出假設：是颳風了？還是有烏雲？還是
Python的機器學習庫scikit-learn、繪相簿Matplotlib的安裝
在windows環境下安裝scipy和sklearn是一件比較麻煩的事情。由於sklearn依賴於numpy和scipy，所以安裝sklearn之前需要先安裝numpy和scipy庫，然而使用pip安裝安裝時，pip install numpy 可以安裝成功，但是使用命令p
關於機器學習的訓練資料、驗證資料和測試資料的形象比喻
機器學習最明顯的一個特點是需要大量的資料。特別對監督學習來說，就是需要大量的帶標籤資料（labeled data）。 很多入門的朋友很快就會遇見模型訓練和測試這兩個階段，進而也就瞭解到帶標籤資料是要被劃分成兩個部分的：訓練集 (training set) 與測試集 (test set)。這兩個概
資料探勘機器學習之Ubantu14.04、Centos7環境下安裝LightGBM
xgboost的出現，讓大資料分析民工們告別了傳統的機器學習演算法們：RF、GBM、SVM、LASSO........。現在，微軟推出了一個新的boosting框架，想要挑戰xgboost的江湖地
國外牛人總結的機器學習領域的框架、庫以及軟體
本文彙編了一些機器學習領域的框架、庫以及軟體（按程式語言排序）。 C++計算機視覺 CCV —基於C語言/提供快取/核心的機器視覺庫，新穎的機器視覺庫 —它提供C++, C, Python, Java 以及 MATLAB介面，並支援Windows, Linux, An
帶你入門Python資料探勘與機器學習（附程式碼、例項）
作者：韋瑋來源：Python愛好者社群本文共7800字，建議閱讀10+分鐘。本文結合程式碼例項待
CSDN機器學習筆記一 概述、線性迴歸
一、課程知識點 講師：唐宇迪 本次課程 1.系列課程環境配置 2.機器學習概述 3.線性迴歸演算法原理推導 4.邏輯迴歸演算法原理 5.最優化問題求解 6.案例實戰梯度下降 一、機器學習處理問題過程及常用庫 1. 機
機器學習（5）、資料清洗和特徵選擇
正式進入機器學習啦，這節課還好，意外知道了莊家與賠率的計算（原來莊家真的是穩賺不賠呢，樓主表示很想設賭局去做莊）；python庫好強大，Pandas包直接提供資料讀取和處理，Fuzzywuzzy支援字串模糊查詢，可用於字串糾錯；知道了機器學習處理的大概流程；之前
機器學習(三)線性迴歸、廣義線性迴歸、非線性迴歸
機器學習(三)線性迴歸模型、廣義線性迴歸模型、非線性迴歸模型 線性迴歸（資料集要滿足正態分佈） 一元線性迴歸模型： 在這裡會想到，如何確定方程中的係數呢？我們先來了解最小二乘法，簡單來說就是這個點作y軸的平行線與直線相交，那一段y值的平方求和起來最小就是了
機器學習定義、機器學習與資料建模、分析的區別
一、什麼是機器學習？ 先來看一則開場白： 看完這段話，可以發現這裡涉及了很多基於“經驗”而做出的判斷。換句話說就是：通過對經驗的利用，就能對新的情況做出有效的決策。 ** 機器學習定義是什麼呢： **筆者摘錄了兩則，大家批評接受 —>①
【機器學習】機器學習（十二、十三）：K-means演算法、高斯混合模型
簡介： 本節介紹STANFORD機器學習公開課中的第12、13集視訊中的演算法：K-means演算法、高斯混合模型（GMM）。（9、10、11集不進行介紹，略過了哈） 一、K-means演算法 屬於無監督學習的聚類演算法，給定一組未標定的資料