【論文閱讀筆記】-《Quantized Convolutional Neural Networks for Mobile Devices》

阿新 • • 發佈：2019-02-15

Quantized -CNN是一種卷積神經網路量化框架，在測試階段可以進行計算加速和模型壓縮。移動裝置可以利用Quantized -CNN框架進行有效的時實影象分類，只有極小的準確性損失。文章測試的硬體平臺是華為mate10，在在ILSVRC-12基準測試上進行了大量的實驗，結果表明有4~6倍的加速和15~20倍的壓縮，分類準確率僅下降了1個百分點，如下圖所示：

我們知道，模型的耗時主要集中在卷積層，引數主要集中在全連線層，論文主要思想是量化卷積的kernel和FC的權值矩陣，論文針對卷積和全連線層採取了不同的量化方法，不過都是基於權重共享策略，採用ｋ-means聚類演算法加速和壓縮模型的卷積層和全連線層，通過量化網路引數，用近似內積計算有效地估計

卷積和全連線層的響應,最小化引數量化期間每層響應的估計誤差，更好地保持模型效能。通過減小每層輸出響應的估計誤差可實現更好的量化結果，並提出一種有效的訓練方案抑制量化後的多層累積誤差 .

【論文閱讀筆記】-《Quantized Convolutional Neural Networks for Mobile Devices》

【論文閱讀筆記】-《Quantized Convolutional Neural Networks for Mobile Devices》

【論文閱讀筆記】MULTI-SCALE DENSE NETWORKS FOR RESOURCE EFFICIENT IMAGE CLASSIFICATION

【論文閱讀筆記】Embedding Electronic Health Records for Clinical Information Retrieval

【論文閱讀筆記】Deep Learning based Recommender System: A Survey and New Perspectives

【論文閱讀筆記】---二值神經網路（BNN）

【論文閱讀筆記】目標檢測之RetinaNet--論文閱讀 Focal Loss for Dense Object Detection

【論文閱讀-CTR】<<Collaborative Filtering for Implicit Feedback Datasets>>閱讀

論文筆記之Learning Convolutional Neural Networks for Graphs

論文記錄_MobileNets Efficient Convolutional Neural Networks for Mobile Vision Application

深度學習論文翻譯解析（六）：MobileNets：Efficient Convolutional Neural Networks for Mobile Vision Appliications

深度學習論文翻譯解析（十七）：MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications

【論文閱讀】Learning Dual Convolutional Neural Networks for Low-Level Vision

【論文閱讀筆記3】序列模型入門之LSTM和GRU

【論文閱讀-REC】<<Recommending music on Spotify with deep learing>>閱讀

【論文閱讀-DL】《One Model To Learn Them All》閱讀

論文閱讀筆記: 2016 cvpr Convolutional Pose Machines（轉載）

[論文閱讀筆記]Two-Stream Convolutional Networks for Action Recognition in Videos

[論文閱讀筆記]U-Net: Convolutional Networks for Biomedical Image Segmentation

CS231n筆記 Lecture 5 Convolutional Neural Networks

【論文閱讀筆記】-《Quantized Convolutional Neural Networks for Mobile Devices》

相關推薦