稀疏自編碼器(sparse autoencoder，SAE)

  在自動編碼的基礎上加上稀疏性限制，就可得到稀疏自動編碼器（Sparse AutoEncoder）。   用來約束自動編碼器重構的方法，是對其損失函式施加約束。比如，可對損失函式新增一個正則化約束，這樣能使自編碼器學習到資料的稀疏表徵。   一般用來學習特徵，以便用於像分類這樣的任務。稀疏正則化的自編碼器必須反映訓練資料集的獨特統計特徵，而不是簡單地充當恆等函式。以這種方式訓練，執行附帶稀疏懲罰的復現任務可以得到能學習有用特徵的模型。

  對於稀疏自編碼器而言，在隱含層中，加入了L1正則化作為優化階段中損失函式的懲罰項。與香草自編碼器相比，這樣操作後的資料表徵更為稀疏。   稀疏性約束在深度學習演算法優化中的地位越來越重要，主要與深度學習特點有關。   大量的訓練引數使訓練過程複雜，且訓練輸出的維數遠比輸入的維數高，會產生許多冗餘資料資訊。加入稀疏性限制，會使學習到的特徵更加有價值，同時這也符合人腦神經元響應稀疏性特點。