p9

學習演算法自身的 歸納偏好 與問題是否相配，往往會起到決定性作用。

1.5發展歷程

人工智慧的研究程序：

推理期->知識期->學習期

    “從樣例中學習”（也即是廣義的歸納學習），它涵蓋了監督學習、無監督學習等，本書大部分內容均屬於此範疇。

    從樣例中學習，從基於邏輯的符號學習->基於神經網路的連線主義學習->“統計學習”方法，代表技術是支援向量機（SVM）->聯結主義學習（很多層的神經網路，深度學習）

    深度學習為什麼此時火起來呢？有兩個基本原因：資料打了、計算能力搶了。深度學習模型擁有大量引數，若資料樣本少，則很容易“過擬合”；如此複雜的模型、如此大的資料樣本，若缺乏強力計算裝置，根本無法求解。恰由於人類進入了“大資料時代”，資料儲量與計算裝置都有了發展，    才使得連線主義學習技術煥發又一春。

（BP演算法是由學習過程由訊號的正向傳播與誤差的反向傳播兩個過程組成。由於多層前饋網路的訓練經常採用誤差反向傳播演算法，人們也常把將多層前饋網路直接稱為BP網路。）