Representation Learning: A Review and New Perspectives閱讀筆記
摘要-機器學習算法依賴於數據表示,盡管特定的領域知識可以被幫助用來學習知識表示,先驗知識也是可以用來學習的,並且應用先驗知識設計更有效的知識表示學習算法正是AI的需求。這篇文章回顧了非監督特征學習和深度學習相關領域的最新的工作,包括概率模型的進展,自動編碼機、主流學習和深度網絡。這激發我們思考一些問題,比如如何學習好的表示,如何計算表示,表示學習、密度評估和主流學習之間的幾何關系。
關鍵字-深度學習,表示學習,特征學習,非監督學習,玻爾茲曼機,自動編碼機,神經網絡
1、引言
早期的學習算法不能提取和組織數據中的判別信息,特征工程師利用人類的智慧和先驗知識來彌補這一缺點的辦法,為了擴展機器學習的適用範圍,降低學習算法對特征工程的依賴程度。
這篇文章主要內容是表示學習,數據的表示學習有助於構建分類器和進行數據的其他預測。這篇文章聚焦於表示學習的深度學習方法,表示學習的深度學習方法由多個非線性變換組成,可以產生更加抽象和有用的數據表示。我們思考一些基本的問題,什麽使得一種表示優於另一種?我們如何計算表示,即如何進行特征提取?表示學習的目標函數是什麽樣的。
2、為什麽我們要關註表示學習
Representation Learning: A Review and New Perspectives閱讀筆記
相關推薦
Representation Learning: A Review and New Perspectives閱讀筆記
文章 構建 review 什麽 幫助 函數 深度 表示 工程 摘要-機器學習算法依賴於數據表示,盡管特定的領域知識可以被幫助用來學習知識表示,先驗知識也是可以用來學習的,並且應用先驗知識設計更有效的知識表示學習算法正是AI的需求。這篇文章回顧了非監督特征學習和深度學習相關領
Explainable Recommendation: A Survey and New Perspectives讀書筆記
推薦系統的研究問題可分成5W,可解釋性推薦主要是回答why這個問題。 - when time-aware recommendation - what application-aware recommendation - who social
【論文閱讀筆記】Deep Learning based Recommender System: A Survey and New Perspectives
【論文閱讀筆記】Deep Learning based Recommender System: A Survey and New Perspectives 2017年12月04日 17:44:15 cskywit 閱讀數:1116更多 個人分類: 機器學習
Deep Learning based Recommender System: A Survey and New Perspectives (2)
感想 篇幅有限,這是接著上面的續篇,let's continue 4.2基於Autoencoder的推薦系統 現存的兩種把autoencoder運用到推薦系統上的方法為:(1)使用autoencoder在bottleneck層學習低維特徵表達;(2)直接在重構層填充評分矩
神經網路解決推薦系統問題(綜述:A Survey and New Perspectives )
--------隨著網路資訊數量的不斷增加、複雜性和動態性的不斷提高,推薦系統已經成為克服此類資訊過載的一個有效的關鍵解決方案,它能夠以個性化的方式來發現產品和服務,為使用者提供嚮導。 過去幾年深度學習在許多領域取得了巨大成功,首當其衝就是計算機視覺和語音識別。深度學習在處理複雜任
Look into Person: Joint Body Parsing & Pose Estimation Network and A New Benchmark閱讀筆記
ati 技術分享 mar 最大 ali ndt and 兩個 mat Look into Person: Joint Body Parsing & Pose Estimation Network and A New Benchmark閱讀筆記 這篇論文主要是兩個貢獻
Adversarial Examples for Semantic Segmentation and Object Detection 閱讀筆記
Adversarial Examples for Semantic Segmentation and Object Detection (語義分割和目標檢測中的對抗樣本) 作者:Cihang Xie, Jianyu Wang, Zhishuai Zhang, Yuyin Zhou, Lingxi Xie,
《Photo-Realistic Single Image Super-Resolution Using a Generative Adversarial Network》閱讀筆記
本文提出了一種利用生成對抗網路(GAN)對低解析度單一影象進行超解析度(super-resolution)的網路結構,作為GAN的一種重要應用,很值得去學習研究。閱讀原文點這裡。 Abstract 儘管我們已經利用更快更深的卷積神經網路(CN
1705.Person Re-Identification by Deep Joint Learning of Multi-Loss Classification 論文閱讀筆記
Person Re-Identification by Deep Joint Learning of Multi-Loss Classification 本文采用多loss分類聯合訓練同時學習行人條紋區域性特徵和全域性特徵,受益於區域性和全域性學習到的特徵具有
《Simple Baselines for Human Pose Estimation and Tracking》閱讀筆記
《Simple Baselines for Human Pose Estimation and Tracking》閱讀筆記 《Simple Baselines for Human Pose Estimation and Tracking》閱讀筆記 姿
RCNN:Rich feature hierarchies for accurate object detection and semantic segmentation 閱讀筆記
Rich feature hierarchies for accurate object detection and semantic segmentation 0. 簡介 本文是CVPR2014的論文,在這之前檢測最好的方法結合了low-lev
A Review on Deep Learning Techniques Applied to Semantic Segmentation 論文閱讀
為了以後的學習方便,把幾篇計算機視覺的論文放上來,僅為自己的學習方便。期間有參考了很多部落格和文獻,但是我寫的仍然很粗糙,存在很多的疑問。這篇文章是第一篇有關語義分割的總結,可能大學畢設會用到,暫時先簡單總結一下自己的所得。 大學快要畢業了,開始準備畢設,分割方向逃不了了。提示:排版對手機端
APPLYING DEEP LEARNING TO ANSWER SELECTION: A STUDY AND AN OPEN TASK 論文閱讀
論文名:APPLYING DEEP LEARNING TO ANSWER SELECTION: A STUDY AND AN OPEN TASK 作者來自IBM Watson 團隊 思路 將QA問題轉換為 Text matching和text sel
Optical Flow Guided Feature A Fast and Robust Motion Representation for Video Action Recognition論文解讀
Optical Flow Guided Feature A Fast and Robust Motion Representation for Video Action Recognition論文解讀 1. Abstract 2. 論文解讀 3
《GraphGAN:Graph Representation Learning with Generative Adversarial Nets》論文閱讀筆記
最近在準備碩士期間的畢業論文的開題工作,也是比較愁於沒有什麼好的畢業設計的想法。在學習完這篇論文後,我發現基於生成對抗網路的網路表示學習的方法挺有意思。通過寫這篇部落格也是想要加深自己對這篇論文的idea的理解,同時也想著是否我也可以提出一種改進或是適當借鑑一下這種思想。 &nbs
Machine Learning (4) Classification and Representation
1. Classification and Representation [分類和表達]: 1.1 Classification [分類]: 1.1.1 為了達到分類的目的,一種方法是使用線性迴歸,並將所有大於某值的預測對映為1,而所有預測小於該值的都對映為0。然而,這種
【論文閱讀】韓鬆《Efficient Methods And Hardware For Deep Learning》節選《Learning both Weights and Connections 》
Pruning Deep Neural Networks 本節內容主要來自NIPS 2015論文《Learning both Weights and Connections for Efficient Neural Networks》。 這部分主要介紹如何剪枝網路
【GAN ZOO閱讀系列】NONSUPERVISED REPRESENTATION LEARNING WITH DCGAN 使用深度卷積生成對抗網路的無監督的表示學習
Alec Radford & Luke Metz indico Research Boston, MA {alec,luke}@indico.io Soumith Chintala Facebook AI Research New York, NY [e
閱讀筆記——《FFDNet Toward a Fast and Flexible Solution for CNN based Image Denoising》
本博文屬於閱讀筆記,僅供本人學習理解用 論文連結:https://ieeexplore.ieee.org/abstract/document/8365806 給出程式碼(https://github.com/cszn/FFDNet) Many methods mos
論文閱讀:Disentangled Representation Learning GAN for Pose-Invariant Face Recognition
ICCV2017的文章,主要使用multi-task的GAN網路來提取pose-invariant特徵,同時生成指定pose的人臉。 下載連結: 作者: Motivation: 對於大pose的人臉識別,現在大家都是兩種方案:1 先轉正再人臉識別。2 直接學習