1.1歡迎

主要講了五門課的內容：

第一門課：神經網絡基礎，構建網絡等；

第二門課：神經網絡的訓練技巧；

第三門課：構建機器學習系統的一些策略，下一步該怎麽走（吳恩達老師新書《Machine Learning Yearning》就是針對這個以及上一課）；

第四門課：卷積神經網絡相關；

第五門課：循環神經網絡相關。

1.2什麽是神經網絡

（1）常說的深度學習指的就是訓練神經網絡，或者也指特別大規模的神經網絡。

（2）每一個神經元都代表著從輸入到輸出的函數映射，如下的房價預測：

（3）激活函數Relu（Rectified Linear Unit）其實就是max(0,x)。

（4）神經網絡非常擅長計算從x到y的精確映射函數（個人理解：神經網絡實質就是非線性的多項式擬合），神經網絡的輸入單元個數一般是特征個數，中間稱為隱藏層，然後輸出單元個數依據實際情況而定，如下輸出是房價的預測值，故是一個神經元。

1.3神經網絡的監督學習

（1）神經網絡在監督學習上的應用：

（2）數據包括結構化數據和非結構化數據，圖像語言語音都是非結構化數據，是神經網絡要研究解決的重點。

1.4為什麽深度學習會興起

（1）三點原因：數據規模大、計算速度提高、算法的創新。事實上如今提高性能最可靠的方法就是運用更大的神經網絡和投入更多的數據。下圖展示了數據量、模型大小與性能之間的關系：

（2）算法創新的一個小案例：激活函數從sigmoid（存在梯度消失）變成ReLU，訓練的速度變得更快了。

（3）在實踐應該按照下圖方式進行快速叠代：

1.5關於這麽課

總共四周，分別是前言，預備知識，淺層神經網絡和深層神經網絡。

1.6課程資源

吳恩達《深度學習》第一門課（1）深度學習引言