1. 程式人生 > >http://www.52nlp.cn/tag/tensorflow Andrew Ng (吳恩達) 深度學習課程小結 tensorflow

http://www.52nlp.cn/tag/tensorflow Andrew Ng (吳恩達) 深度學習課程小結 tensorflow

Deep Learning Specialization on Coursera

Dear Learners,

We hope that you are enjoying Structuring Machine Learning Projects and your experience in the Deep Learning Specialization so far!

As we are nearing the one month anniversary of the Deep Learning Specialization, we wanted to thank you for your feedback on the courses thus far, and communicate our timelines for when the next courses of the Specialization will be available.

We plan to begin the first session of Course 4, Convolutional Neural Networks, in early October, with Course 5, Sequence Models, following soon after. We hope these estimated course launch timelines will help you manage your subscription as appropriate.

If you’d like to maintain full access to current course materials on Coursera’s platform for Courses 1-3, you should keep your subscription active. Note that if you only would like to access your Jupyter Notebooks, you can save these locally. If you do not need to access these materials on platform, you can cancel your subscription and restart your subscription later, when the new courses are ready. All of your course progress in the Specialization will be saved, regardless of your decision.

Thank you for your patience as we work on creating a great learning experience for this Specialization. We look forward to sharing this content with you in the coming weeks!

Happy Learning,

Coursera

大意是第四門深度學習課程 CNN(卷積神經網路)將於10月上旬推出,第五門深度學習課程 Sequence Models(序列模型, RNN等)將緊隨其後。對於付費訂閱的使用者,如果你想隨時隨地獲取當前3門深度學習課程的所有資料,最好保持訂閱;如果你僅僅想訪問 Jupyter Notebooks,也就是獲取相關的程式設計作業,可以先本地儲存它們。你也可以現在取消訂閱這門課程,直到之後的課程開始後重新訂閱,你的所有學習資料將會儲存。所以一個比較省錢的辦法,就是現在先離線儲存相關課程資料,特別是程式設計作業等,然後取消訂閱。當然對於視訊,也可以離線下載,不過現在免費訪問這門課程的視訊有很多辦法,譬如Coursera本身的非訂閱模式觀看視訊,或者網易雲課堂免費提供了這門課程的視訊部分。不過我依然覺得,吳恩達這門

深度學習課程,如果僅僅觀看視訊,最大的功效不過30%,這門課程的精華就在它的練習和程式設計作業部分,特別是程式設計作業,非常值得揣摩,花錢很值。

第一週課程是關於深度學習的實踐方面的經驗 (Practical aspects of Deep Learning), 包括訓練集/驗證集/測試集的劃分,Bias 和
Variance的問題,神經網路中解決過擬合 (Overfitting) 的 Regularization 和 Dropout 方法,以及Gradient Check等:


這周課程依然強大在程式設計作業上,有三個程式設計作業需要完成:

完成程式設計的作業的過程也是一個很好的回顧課程視訊的過程,可以把一些聽課中容易忽略的點補上。

第二週深度學習課程是關於神經網路中用到的優化演算法 (Optimization algorithms),包括 Mini-batch gradient descent,RMSprop, Adam等優化演算法:

程式設計作業也很棒,在老師循循善誘的預設程式碼下一步一步完成了幾個優化演算法。

第三週深度學習課程主要關於神經網路中的超引數調優和深度學習框架問題(Hyperparameter tuning , Batch Normalization and Programming Frameworks),順帶講了一下多分類問題和 Softmax regression, 特別是最後一個視訊簡單介紹了一下 TensorFlow , 並且程式設計作業也是和TensorFlow相關,對於還沒有學習過Tensorflow的同學,剛好是一個入門學習機會,視訊介紹和作業設計都很棒:


第三門深度學習課程Structuring Machine Learning Projects”更簡單一些,只有兩週課程,只有 Quiz, 沒有程式設計作業,算是Andrew Ng 老師關於深度學習或者機器學習專案方法論的一個總結:

第一週課程主要關於機器學習的策略、專案目標(可量化)、訓練集/開發集/測試集的資料分佈、和人工評測指標對比等:


課程雖然沒有提供程式設計作業,但是Quiz練習是一個關於城市鳥類識別的機器學習案例研究,通過這個案例串聯15個問題,對應著課程視訊中的相關經驗,值得玩味。

第二週課程的學習目標是:

“Understand what multi-task learning and transfer learning are
Recognize bias, variance and data-mismatch by looking at the performances of your algorithm on train/dev/test sets”

主要講解了錯誤分析(Error Analysis), 不匹配訓練資料和開發/測試集資料的處理(Mismatched training and dev/test set),機器學習中的遷移學習(Transfer learning)和多工學習(Multi-task learning),以及端到端深度學習(End-to-end deep learning):

這周課程的選擇題作業仍然是一個案例研究,關於無人駕駛的:Autonomous driving (case study),還是用15個問題串起視訊中得知識點,體驗依然很棒。

最後,關於Andrew Ng (吳恩達) 深度學習課程系列,Coursera上又啟動了新一輪課程週期,9月12號開課,對於錯過了上一輪學習的同學,現在加入新的一輪課程剛剛好。不過相信 Andrew Ng 深度學習課程會成為他機器學習課程之後 Coursera 上又一個王牌課程,會不斷滾動推出的,所以任何時候加入都不會晚。另外,如果已經加入了這門深度學習課程,建議在學習的過程中即使儲存資料,我都是一邊學習一邊儲存這門深度學習課程的相關資料的,包括下載了課程視訊用於離線觀察,完成Quiz和程式設計作業之後都會儲存一份到電腦上,方便隨時檢視。

Deep Learning Specialization on Coursera 本條目釋出於