1. 程式人生 > >重磅!吳恩達深度學習又開新課啦!

重磅!吳恩達深度學習又開新課啦!


這裡寫圖片描述

說起吳恩達「Andrew Ng」,相信大家都非常熟悉了。作為人工智慧的大 IP,吳恩達一直致力於人工智慧的推廣和普及,爭取讓每個人都能感受人工智慧的魅力。自去年8月開始,吳恩達在 Coursera 上開設了由 5 門課組成的深度學習專項課程,掀起了一股人工智慧深度學習熱潮。這裡附上deeplearning.ai的官網:

這個系列的專項課程質量很高,紅色石頭也完整地學完這五門課,並系統地將所有的知識點以筆記的形式記錄下來,希望能給大家帶來一些幫助。所有筆記的彙總如下:

還沒結束!大牛是停不下腳步的。最近,吳恩達在斯坦福大學又開設了高質量的深度學習課程 CS230。這門課的主頁是:


這裡寫圖片描述

關於這門課的描述為:

深度學習是 AI 領域最受歡迎的技能之一。我們將幫助你學好深度學習。在這門課中,你將學習深度學習的基礎,理解如何構建神經網路,並且學習如何領導一個成功的機器學習專案。你將學習卷積神經網路、RNNs、LSTM、Adam、Dropout、BatchNorm、Xavier/He 初始化等等。你將從醫療保健、自動駕駛、手語閱讀、音樂生成和自然語言處理等方面進行案例研究。你不僅能掌握理論知識,還能知道它如何應用到工業領域。所有的這些想法你都可以使用 Python 和 TensorFlow 實現,而這正是我們要教你的。學完這門課,你很可能會發現一些創造性的方法應用到你的工作中。這門課採用翻轉課堂的教學形式,你可以在家觀看教學視訊,完成深度程式設計作業和線上測試,然後來到課程做進一步討論並完成專案。這門課將以一個開放式的最終專案作為結束,此過程中教學團隊會提供一些幫助。

這門課最好具備以下基礎知識:

  1. 掌握基本的電腦科學原理和技能,有足夠能力寫出一個合理且較複雜的計算機程式。

  2. 掌握基本的概率論(CS 109 或 STATS 116)。

  3. 掌握基本的線性代數(Math 104,Math 113,CS 205 三者選其一)。

這門課的教課形式比較新穎,採用課堂線下授課和 Coursera 線上學習相結合的方式。簡單來說,就是在 Coursera 上觀看教學視訊,線上測試和提交程式設計作業。線下在課堂裡學習課程其它資料、討論,並最終完成一個開放式的專案。這裡所說的 Coursera 上的教學視訊就是 deeplearning.ai 專項課程的 5 門課的視訊,線上測試和程式設計作業也對應在專項課程中。之前做過的同學掌握這門課會更加輕鬆。即使做過,也建議重新做一次,鞏固知識點,而且最後的專案才是重點。

CS230 總共包含 5 門課,課程內容分佈大致與 deeplearning.ai 一致,但是內容也有改動和擴充套件:

1. 神經網路與深度學習


這裡寫圖片描述

第一門課主要介紹了神經網路和深度學習的基礎。主要在課堂內介紹了深度學習的直觀概念,並藉助兩個模組從頭開始學習神經網路到底是什麼。

2. 提高深度神經網路:超引數除錯、正則化和優化


這裡寫圖片描述

第二門課主要介紹深度學習模型的內部數學結構,從淺層網路逐步過渡到深度網路,理解「深度」的重要意義。掌握了這些概念之後,對於如何從零開始構建深度學習網路,能有一個基本的思路。

然後是深度模型的優化或調參技巧,例如初始化、正則化、資料集劃分、Dropout、歸一化、梯度檢查等,和各種經典的學習率衰減方法,如動量演算法、Adam 等。

3. 構建機器學習專案


這裡寫圖片描述

第三門課主要介紹結構化機器學習專案。基礎部分涉及超引數調整、批規一化方法等,以及深度學習框架(如 TensorFlow、PyTorch)的應用。然後是機器學習策略,包括垂直化調參、評估指標設定、資料集劃分等。

4. 卷積神經網路


這裡寫圖片描述

這門課主要介紹卷積神經網路,卷積神經網路主要用於處理空間型資料,如影象、視訊等,因此在計算機視覺中應用甚廣。在這一部分課程期間有一個期中測驗,可以幫助你重溫之前學習過的內容。

CNN 的基礎部分涉及卷積運算、步幅、池化等,然後進一步介紹了幾個經典的 CNN 架構,如 LeNet-5、AlexNet、VGG、ResNet、Inception 等。之後給出了幾個 CNN 開發過程中的建議,涉及遷移學習、資料增強等。最後介紹了 CNN 領域的當前研究現狀。

5. 序列模型


這裡寫圖片描述

這門課主要介紹序列模型。序列模型主要用於處理序列型資料,如音樂、語音、文字等。序列模型主要以迴圈神經網路為代表,本課將介紹 RNN 的基礎結構、型別、計算過程等,並以語言建模作為典型案例進行分析。之後是一些著名的 RNN 變體,例如 GRU、LSTM、雙向 RNN、深度 RNN 等。

CS230 最後的課程專案:

CS230 的主要目標之一就是幫你把機器學習演算法應用到實際任務中,或者讓你具備良好的條件來進行機器學習和 AI 研究。最後一個專案的目的是讓你從這些方向開始。

可喜的是,目前 CS230 的專案報告與 Poster 展示都已經發布。包含多種主題,如音樂生成、情緒檢測、電影情感分類、癌症檢測等。最終專案和 Poster 排名前三的名單已經公佈:


這裡寫圖片描述

當然,專案提交數目有很多,感興趣的同學可以看看:

CS230 課程資料獲取:

關於這門課所有的課程資料 pdf 檔案,包括最終專案等檔案,已經幫大家收集好啦。獲取方式很簡單,只要在微信公眾號:AI 有道(ID:redstonewill)後臺回覆:CS230 即可!

總結:

這門課呢,我比較看重的是最終的專案,通過實際專案能幫助你鞏固所學的知識,提升實踐操作能力,這是相當重要的。最後呢,希望大家都能從中鞏固深度學習理論知識,提高解決實際問題的能力!


這裡寫圖片描述