RNN遞迴神經網路

首先來回顧一下之前的神經網路：

在這個神經網路裡面，沒一個輸入都是獨立的，沒有什麼影響。每一個樣本輸入進行一個引數的更新互相沒有聯絡。

而遞迴神經網路就是要解決這種互相獨立的問題。比如“我是一箇中國人，我應該說中文”。按照最簡單的第一種的神經網路，其實也就是CNN和普通的全連線神經網路，這樣的話就是一個一個字的傳進去進行一個引數更新。

而RNN神經網路在傳入的每個引數的時候都會進行一個儲存提取一個有用的資訊。比如在傳入的“我是一箇中國人，我應該說。。。”。在檢測到應該說字的時候，就會發現之前有講到中國，所以有很大概率會說中文了。

在每一次輸入的時候都會進行一個前一次資料的保留和提取，然後和下一次輸入的資料進行一個判斷。

這樣看來其實每一次就有兩次輸入了，第一次就是輸入的值，第二次就是一個前一次的傳過來的值了。