參考文獻

這實際上是一篇翻譯版的博文，原文在這裡.這篇博文實際上只是簡單的系統地介紹了attention機制的基本思想，以及它的一些應用。文章並不是特別長，讀完之後，可以對attention機制有一個整體的認知。值得推薦的地方時，這篇文章在最後給出了一些學習attention的參考資料，可以進一步的學習，比較贊。

2、Attention and Memory in Deep Learning and NLP
這是Denny Britz大神的部落格，之前在介紹RNN的時候也參考了一系列他的博文。本篇博文也是系統地介紹了Attention機制的基本原理及其簡單應用，可以協助加深對Attention的理解。

3、ATTENTION MECHANISM
推薦閱讀。這篇文章相對比較詳細的介紹了attention mechanism是如何工作的（主要以是在RNN框架上為例），文中以image caption 為例，介紹了加入attention機制後的工作流程，可以加深理解。

4、Survey on Attention-based Models Applied in NL
這篇論文主要是對一些利用了Attention mechanism的論文進行了簡單的解析，應用方向主要是NLP，我只閱讀了一半，若喜歡可以閱讀。

5、Attention and Augmented Recurrent Neural Networks

Quora中的問答，裡面有很多學者的回答，可以很好地幫助理解，並且也有很多分享的資料以及資源。