1. 程式人生 > >統計學習以及支援向量機的國內外基本比較重要的書

統計學習以及支援向量機的國內外基本比較重要的書

1、支援向量機導論,此書乃是SVM方面的經典著作,
      該書的作者也是近年來SVM、kernel methods學術圈內的活躍學者,對於這些領域均有過重要的貢獻。這本書從“線性機器、核方法、統計學習理論、凸優化”四個方面揭示了SVM的內在機理 --利用核使得能夠使用線性的的方法發現數據中的非線性關係,並且利用統計學習理論保證學習機器的泛化效能。這些SVM的內在機理並沒有發生重大的改變。
    這本書我只看了一點,由於需要強大的數學基礎作為保證,很難再讀下去。。。但是它每一張的前言是非常非常經典,每句話都很有道理,發人深醒~
2、統計學習理論的本質;
3、統計學習理論;
      以上兩本均是vapnik自六十年代以來的工作的總結,前者在概念上給出統計學習理論的介紹,
後者則給出了證明。vapnik的目標在於建立小樣本統計學。其三十年如一日的苦苦追尋令人感動(60年代開始老瓦的工作一直不被重視,直到SVM的出現)。兩本書的翻譯都是十分優秀的。張學工老師據我所知在其博士期間就開始關注SVM方面的工作,他是最早介紹統計學習理論到中國的學者。也是國內SVM最好的學者之一。
目前兩本書的電子版都已經被我下到,準備挑一個事情比較少的時間段去看。。。電子書的質量不是很好,不太清晰~

4、資料探勘中的新方法:支援向量機。
      很多人推薦這本書,但這本書實在不敢恭維。由於該書作者的背景,該書作者傾向於從最優化的角度介紹SVM,這當然遠遠偏離了SVM的核心。書中還加入了作 者的工作,但據我所知這部分工作根本沒有得到承認(幾乎沒有被引用過)。至於對SVM的介紹則大量來自於經典(1,2,3)
沒看過~
5、Learning with Kernels: Support Vector Machines, Regularization, Optimization, and Beyond
     這本書大約被引用2000餘次(順便講一下,4、資料探勘中的新方法:支援向量機引用5次,來自google學術),至 於該書作者Schö;lkopf,他的工作只怕近年的SVM、kernel methods方面的文獻沒有不提到他的。今年的ICML(國際機器學習頂級會議)schö;lkopf是Invited Speakers,報告題目是“Thoughts on Kernels”。這本書意義深遠,還給出了大量的習題,實在不容錯過。
    沒看過~

6、Kernel Methods for Pattern Analysis
    支援向量機導論的作者的又一部著作,討論模式識別方法的新框架“核方法”。經典。
在圖書館看見過,理論基礎要求的比較高。。。
7、Learning to classify text using support vector machines
      SVM理論上近乎完美,但仍然要通過實際應用的考驗,文字分類就是最早體現SVM的 領域之一(另一個是手寫數字識別)。該書作者更是SVM領域的大牛,他開發了SVM最好的演算法包SVM Light。近年來SVM演算法的每一次重大優化,幾乎都是由他發起。
看過他的一篇論文,寫了7頁,只說了SVM在文字分類中的優點~這本書應該是相當經典,不過沒找到~

如果僅僅為了使用SVM,看看臺灣人的LibSVM半小時就可以學會使用,馬上就能處理資料(分類、迴歸)。如果想盡快了解SVM的機理,1、支援向量機 導論則是首選,如果希望瞭解核方法及SVM,5、Learning with Kernels: Support Vector Machines, Regularization,Optimization, and Beyond,決不能錯過。