1. 程式人生 > >(一)深度學習入門——基於Python理論與實現

(一)深度學習入門——基於Python理論與實現

第三章 神經網路

  • 機器學習的問題大體上可以分為迴歸問題和分類問題;
  • sigmoid函式
    這裡寫圖片描述
    h(x) = 1/(1+exp(-x))
    exp(-x)表示 這裡寫圖片描述
    可用 math.exp(-x) 計算
    圖形:
    這裡寫圖片描述
  • ReLU函式
    h(x) = x (x > 0)
    h(x) = 0 (x <=0)
    圖形:
    這裡寫圖片描述
  • softmax函式
    這裡寫圖片描述
    分子是輸入訊號這裡寫圖片描述的指數函式,分母是所有輸入訊號指數函式的和;

  • 啟用函式
    一般地,迴歸問題可以使用恆等函式;二元分類問題可以使用sigmoid函式;多元分類問題可以使用softmax函式;