1. 程式人生 > >記錄一下最近學的神經網路以及深度學習

記錄一下最近學的神經網路以及深度學習

最近學的神經網路以及深度學習

人工神經網路是早期機器學習中的一種重要演算法,經歷了數十年的起伏。神經網路的原理受到我們大腦生理結構神經元——的啟發。但與大腦中可以在一定距離內連線的任何神經元不同,人工神經網路具有、連線和資料傳播方向的離散層。

例如,我們可以將影象分割成影象塊並將它們輸入到神經網路的第一層。第一層中的每個神經元將資料傳遞給第二層。第二層神經元也執行類似的工作,將資料傳遞到第三層,依此類推,直到最後一層,然後生成結果。

每個神經元為其輸入分配權重,並且該權重的正確性與其執行的任務直接相關。最終輸出由這些權重的總和確定。

我們仍然使用停止標誌作為示例。打破停止標誌影象的所有元素然後用神經元“檢查”:八角形狀、類似救火車的紅色、獨特字母、典型大小的交通標誌和靜止運動特徵等等。神經網路的任務是得出它是否是停止標誌的結論。神經網路基於所有權權重——“概率向量”給出了經過深思熟慮的猜測。

在此示例中,系統可能會給出結果:86%可能是停止標誌; 7%可能是速度限制標誌; 5%可能是掛在樹上的風箏等等。然後,網路結構告訴神經網路其結論是否正確。

即使這個例子也相對先進。直到最近,神經網路仍然被人工智慧圈所遺忘。事實上,在人工智慧的早期,神經網路已經存在,但神經網路對“智慧”的貢獻微乎其微。主要問題是即使是最基本的神經網路也需要大量的計算。神經網路演算法的計算要求難以滿足。

然而,仍然有一些虔誠的研究團隊,由多倫多大學的Geoffrey Hinton代表,他堅持研究並實現針對超級計算的並行演算法的操作和概念驗證。但是在廣泛使用GPU之前,這些努力只能看到結果。讓我們回顧這個停車標誌識別的例子。神經網路由調製、訓練,並且它仍然非常容易出錯。它最需要的是培訓。需要數百甚至數百萬個影象進行訓練,直到神經元輸入的權重被非常精確地調製,無論是有霧,晴天還是下雨,每次都能獲得正確的結果。

只有在這個時候我們才能說神經網路已經成功地學會了一個停止標誌;或者在Facebook應用程式中,神經網路已經瞭解了你母親的臉;或者在2012年,谷歌的Andrew Ng教授已經實施了神經網路,以瞭解貓的外觀等等。

吳教授的突破在於這些神經網路的顯著增加。層數非常大,並且有很多神經元,然後系統輸入大量資料來訓練網路。吳教授的資料來自1000萬個YouTube視訊。吳教授為深度學習增添了“深刻”。這裡的“深度”是神經網路中的許多層。

現在,通過深度學習訓練的影象識別在某些情況下甚至可以比人類更好:從識別貓,識別血液中癌症的早期成分,到識別MRI中的腫瘤。谷歌的AlphaGo首先學會了如何玩Go然後用它下棋。它訓練自己的神經網路的方式是不斷下棋,在地下重複,永不停止。

深度學習,人工智慧的未來

深度學習使機器學習能夠實現廣泛的應用並擴充套件人工智慧領域。深度學習無情地完成了各種任務,使得所有機器輔助功能似乎都成為可能。無人駕駛汽車,預防性保健,甚至更好的電影推薦都在眼前或接近。

人工智慧現在就在明天。通過深入學習,人工智慧甚至可以達到我們富有想象力的科幻小說。我帶了你的C-3PO,你有你的終結者。

參考資料