機器學習是人工智慧AI研究發展到一定階段的必然產物！

二十世紀五十年代~七十年代初，“推理期”：機器的只能體現在具有邏輯推理能力。

二十世紀七十年代中期開始，AI進入“知識期”，希望機器能夠自己學習！

其實，圖靈1950年就曾提到過機器學習的可能

五十年代中後期，基於神經網路的“連線主義”學習開始，比如：感知機 

六七十年代，基於邏輯表示的“ ”符號主義學習發展， 比如：歸納學習系統、概念學習系統 

八十年代，1980 年夏，在美國卡耐基梅隆大學舉行了第一屆機器學習研討會(IWML);同年， 《策略分析與資訊系統》連出三期機器學習專輯; 1983 年，出版了R. S. Michalski、J. G. Carbonell 和T. Mitchell 主編的《機器學習:一種人工智慧途徑)) [Michalski et al., 1983] ，對當時的機器學習研究工作進行了總結; 1986 年，第一本機器學習專業期刊Machine LeαTηing 創刊; 1989 年，人工智慧領域的權威期刊Artificial Intelligence 出版機器學習專輯，刊發了當時一些比較活躍的研究工作?其內容後來出現在J. G. Carbonell 主編、MIT 出版社1990 年的《機器學習:範型與方法》 [Carbonell, 1990] 一書中.總的來看，二十世紀八十年代是機器學習成為一個獨立的學科領域、各種機器學習技術百花初綻的時期.

• R. S. Michalski 等人[Michalski et al., 1983] 把機器學習研究劃分為"從樣例中學習" "在問題求解和規劃中學習" "通過觀察和發現學習" "從指令中學習"等種類;
• E. A. Feigenbaum 等人在著名的《人工智慧手冊>> (第二卷)中，則把機器學習劃分為"機械學習" "示教學習" "類比學習"和"歸納學習"等種類

二十世紀八十年代以來，被研究最多、應用最廣的是"從樣例中學習" (也就是廣義的歸納學習) ，它涵蓋了監督學習、無監督學習等

在二十世紀八十年代，"從樣例中學習"的一大主流是符號主義學習，其代表包括決策樹(decision tree)和基於邏輯的學習.

• 典型的決策樹學習以資訊理論為基礎，以資訊熵的最小化為目標，直接模擬了人類對概念進行判定的樹形流程。
• 基於邏輯的學習的著名代表是歸納邏輯程式設計(Inductive LogicProgramming，簡稱ILP) ，可看作機器學習與邏輯序設計的交叉，它使用一階邏輯(即謂詞邏輯)來進行知識表示，通過修改和擴充邏輯表示式(例如Prolog表示式)來完成對資料的歸納.
• 符號主義學習佔據主流地位與整個人工智慧領域的發展歷程是分不開的

二十世紀九十年代中期之前，"從樣例中學習"的另一主流技術是基於神經網路的連線主義學習。1983 年，J. J. Hopfield 利用神經網路求解"流動推銷員問題"這個著名的NP 難題取得重大進展，使得連線主義重新受到人們關注. 1986 年， D. E. Rumelhart 等人重新發明了著名的BP 演算法，產生了深遠影響.與符號主義學習能產生明確的概念表示不同，連線主義學習產生的是"黑箱"模型，因此從知識獲取的角度來看?連線主義學習技術有明顯弱點;然而，由於有BP 這樣有效的演算法，使得它可以在很多現實問題上發揮作用.事實上， BP 一直是被應用得最廣泛的機器學習演算法之一.連線主義學習的最大侷限是其"試錯性'； 簡單地說，其學習過程涉及大量引數，而引數的設定缺乏理論指導，主要靠於工"調參"誇張一點說，引數調節上失之毫釐，學習結果可能謬以千里.

二十世紀九十年代中期"統計學習" (statistical learning) 閃亮登場並迅速佔據主流舞臺，代表性技術是支援向量機(Support Vector Machine，簡稱SVM) 以及更一般的"核方法" (kernel methods).V. N. Vapnik 在1963 年提出了"支援向量"概念

• 一方面是由於有效的支援向量機演算法在九十年代初才被提出，其優越效能到九十年代中期在文字分類應用中才得以顯現;
• 另一方面，正是在連線主義學習技術的侷限性凸顯之後，人們才把目光轉向了以統計學習理論為直接支撐的統計學習技術

二十一世紀初，連線主義學習又捲土重來，掀起了以"深度學習"為名的熱潮.所謂深度學習?狹義地說就是"很多層"的神經網路。深度學習雖缺乏嚴格的理論基礎，但它顯著降低了機器學習應用者的門檻，為機器學習技術走向工程實踐帶來了便利。

博士團隊打造的微信公眾號【計算機視覺聯盟】，主要分享深度學習、機器學習、影象解譯、人工智慧、無人駕駛等熱門領域，開源框架學習（如TensorFlow）、專案經歷及程式語言(C++、python)等諮訊