1. 程式人生 > >Representation Learning: A Review and New Perspectives閱讀筆記

Representation Learning: A Review and New Perspectives閱讀筆記

文章 構建 review 什麽 幫助 函數 深度 表示 工程

摘要-機器學習算法依賴於數據表示,盡管特定的領域知識可以被幫助用來學習知識表示,先驗知識也是可以用來學習的,並且應用先驗知識設計更有效的知識表示學習算法正是AI的需求。這篇文章回顧了非監督特征學習和深度學習相關領域的最新的工作,包括概率模型的進展,自動編碼機、主流學習和深度網絡。這激發我們思考一些問題,比如如何學習好的表示,如何計算表示,表示學習、密度評估和主流學習之間的幾何關系。

關鍵字-深度學習,表示學習,特征學習,非監督學習,玻爾茲曼機,自動編碼機,神經網絡

1、引言

早期的學習算法不能提取和組織數據中的判別信息,特征工程師利用人類的智慧和先驗知識來彌補這一缺點的辦法,為了擴展機器學習的適用範圍,降低學習算法對特征工程的依賴程度。

這篇文章主要內容是表示學習,數據的表示學習有助於構建分類器和進行數據的其他預測。這篇文章聚焦於表示學習的深度學習方法,表示學習的深度學習方法由多個非線性變換組成,可以產生更加抽象和有用的數據表示。我們思考一些基本的問題,什麽使得一種表示優於另一種?我們如何計算表示,即如何進行特征提取?表示學習的目標函數是什麽樣的。

2、為什麽我們要關註表示學習

Representation Learning: A Review and New Perspectives閱讀筆記