1. 程式人生 > >Python與機器學習總結

Python與機器學習總結

一、線性迴歸

二、邏輯迴歸:適合於二分類問題

用於多分類問題有兩種變化:1、建立多個二分類器;2、改變對映函式sigmiod函式為softmax函式

三、決策樹

關鍵是選取樹的節點,逐漸發展有ID3、C4.5、CART(GINI係數)

後面發展為整合演算法:bagging(並行訓練多個分類器)(隨機森林演算法);boosting(序列訓練)(AdaBoost,Xgboost);Stacking(聚合多個分類或迴歸模型)(串並同時)

四、貝葉斯分類器

貝葉斯原理:在已知某件事發生的條件下另一件事發生的概率,可以轉化為相反的過程。

應用:在某一事件發生的情況下,各類事件發生的概率,歸類到概率最大的事件中。可以轉化為在某類事件發生的情況下,某件事發生的概率。

五、支援向量機(SVM)