1. 程式人生 > >2019年人工智能硬件有什麽趨勢?

2019年人工智能硬件有什麽趨勢?

反饋 d3d 應用 理論 關註 int out 增強 什麽

機器學習能真正發展為人工智能嗎?硬件對人工智能到底有多重要?有哪些應用會在2019年成為現實?

技術分享圖片

2019年即將到來,人工智能將往什麽方向發展?機器學習將如何演變為人工智能?在神經網絡領域具有20年的技術經驗Eugenio Culerciello,在硬件和軟件兩方面都有經驗積累。他預測,在硬件和應用兩方面,2019年的人工智能都值得我們期待。

目標

一句話概括,人工智能領域的目標就是制造超越人類能力的機器:自動駕駛汽車、智能家居、人工助理和安防攝像頭是首要的目標,接下來是智能廚房、清潔機器人以及安防無人機和機器人。其他應用包括永遠在線的個人助理,和能夠看見、聽見用戶生活經歷的生活伴侶。人工智能的終極目標則是完全自動的人工個體,能在日常任務中達到、甚至超越人類的工作表現。

技術分享圖片

軟件

通常,軟件是指在最佳化算法訓練之下,能夠解決某一具體任務的神經網絡架構。不過,這並不能等同於人工智能。人工智能必須能夠在真實環境中進行無監督學習,從新的經驗中學習,結合在各種環境中學到的知識、解決當下的問題。

那麽,目前的神經網絡,如何能演變為人工智能呢?

  • 神經網絡架構
  • 神經網絡的優勢在於從數據中自動學習,但我們忘記了一點:訓練的基礎是手動設計的神經網絡架構,這無法從數據中習得。這是目前這個領域的重大限制因素。問題在於,從數據中學習神經網絡架構目前必須從零訓練多個架構,然後選擇一個最佳架構,這需要太長時間。
技術分享圖片

  • 目前神經網絡的限制
  • 無法預測、基於內容推理和暫時性不穩定都是目前的限制。我們需要一種新的神經網絡。

神經網絡正在演變為編碼器和解碼器的結合。編碼器將數據編碼為一種代碼表征,解碼器則擴展表征,生成一系列更大的表征,例如圖像生成、心理模擬、圖像標亮等。

  • 無監督學習
  • 人類無法永遠守在機器旁,一步步指導它們的“人生經歷”。我們可忙得很!可是目前,對於監督學習我們還得給機器反饋,改正它們的錯誤。而人類只需要學習幾個例子,就能自動改正,並持續學會更多、更復雜的數據。
  • 預測型神經網絡
  • 目前神經網絡的主要限制之一是,它們無法像人類大腦一樣進行預測。預測聽起來很玄乎,但其實我們每天都在預測。如果桌子上有一小團棉花,你自然會預測棉花團會很輕,不需要花很大力氣就能拿動。通過預測,我們的大腦能理解我們的身體和環境,還能知道我們是否需要學習新信息。如果你拿起桌上的棉花團,發現由於裏面藏著鉛塊其實很重,大腦的認知能力能讓你學會判斷,第二次拿起棉花團的時候就不會驚訝了。預測性神經網絡是與復雜的外在世界互動的核心。
技術分享圖片

  • 持續性學習
  • “終生學習”對於神經網絡來說是一件大事。目前的神經網絡要想學習新數據,必須每次都從頭開始重新訓練。它們必須能意識到自己的“無知”,並自動評估是否需要進行新的訓練。同時,在真實世界中,我們希望機器可以學會新技能,同時不忘記原本的知識。持續性學習也與遷移學習有關,這需要用到所有上述提到的技能,對增強型學習也很重要。
  • 增強型學習
  • 增強型學習可謂是深度神經網絡的領域的聖杯。這需要自動學習、持續學習、預測能力和很多我們還未知的能力。目前,解決增強型學習的問題,我們使用標準的神經網絡,例如可以處理視頻或音頻等大容量數據輸入的深度神經網絡,並將其壓縮為表征,或者RNN等序列學習神經網絡。它們可以從零開始、甚至一夜之間學會下圍棋,但是與人類在真實世界中的能力相比,還相差很遠。
  • 循環神經網絡(RNN)Out了
  • RNN很難進行並行化訓練,由於使用超高的容量帶寬,即便在特殊的定制機器上也運行很慢。基於註意力機制的神經網絡—尤其是卷積神經網絡—訓練和配置起來更快、更高效,並且更容易規模化。它們已經逐漸補充語音識別,並在增強學習架構和AI的廣闊天地間尋找更多的應用。
技術分享圖片

硬件

由於硬件的支持,深度學習在2008至2012年間實現了突飛猛進式的進展:每一部手機上都配有便宜的圖像傳感器,能夠收集大量的數據庫,同時GPU加速了深度學習的訓練。在最近兩年,機器學習硬件飛速發展。許多公司都在這個領域:NVIDIA、Intel、Nervana、Movidius、Bitmain、Huawei、ARM、Wave等等,所有公司都在開發定制的高性能芯片,用來訓練和運行深度神經網絡。

這場開發競賽的關鍵是, 在處理最近的神經網絡運作時,提供最低的能力和最高的可測量性能。

不過,只有少數人知道硬件對機器學習、神經網絡和人工智能的影響,或者微型芯片的重要性以及如何開發微型芯片。例如:

  • 架構:
  • 很多人覺得計算機架構不過是加法器和乘法器,但是有一些架構能夠最小化記憶帶寬,一直同時使用所有單元。
  • 編譯器:
  • 很多人覺得硬件不重要,神經網絡編譯器才是關鍵。但是在自己設計架構的時候,編譯器只不過是通過機器代碼,解讀神經網絡的計算圖像。開源編譯器的作用有限,因為最難的一步得依靠未知的架構。開源編譯器可以作為前端,在硬件架構和神經網絡圖像之間還有很多值得探討的領域。
  • 微型芯片:
  • 對於重要的算法,優化性能的最佳辦法就是定制微型芯片,或者ASIC或SoC。FPGA現在已經含有深度神經網絡加速器,預計將在2019至2020年實現,但是微型芯片總是更好的。
  • 進步:
  • 即便微型芯片的規模化還未被使用,還有一些技術進步能讓深度神經網絡加速器輕松獲得10至20倍的提升。值得關註的的進展包括系統級封裝和升級記憶等。
技術分享圖片

應用

現在,我們來詳細討論在哪些應用領域,AI和神經網絡將改變我們的生活:

  • 分類圖像和視頻:
  • 雲服務已經包含了這項應用,接下來也會來到智能視頻傳送中。神經網絡硬件不通過雲端,在本地處理越來越多的數據,不僅保護了隱私,也節省了互聯網帶寬使用。
  • 語音助理:
  • 語音助理已經進入我們的生活,在智能家居中起到重要作用。不過,我們經常忽視聊天的難度,對人類來說是一項基本活動,而對機器來說則是一項偉大的革新。語音助理正在進步,但還是不能完全移動化。Alexa、Cortana和Siri會永遠在線,手機將很快成為未來的智能家居。這是智能手機的又一次進步。除了手機,語音助理也需要進入汽車,隨著用戶移動。我們需要更多的本地語音處理、更強的隱私保護和更少的帶寬要求。隨著硬件的進步,1至2年之內這些都能實現。
  • 人工助理:
  • 語音挺好,但是未來我們真正想要的人工助理還能見我們所見,跟隨著我們移動的腳步分析周圍的環境。神經網絡硬件會幫助我們實現這個美夢,但是分析視頻傳輸要求很高的計算能力,已達到了目前硬件能力的理論邊緣,比語音助理要困難得多。AiPoly等創業公司已經提出了解決方案,但是缺乏強大的硬件,使其能在手機上運行。另外值得關註的還有,如果把手機屏幕換成類似眼鏡的可穿戴設備,我們的助理將成為我們的一部分。
  • 家務機器人:
  • 另一項重要應用是可以做飯和清潔的家務機器人。我們也許很快就能實現硬件,但是還缺乏軟件。我們需要遷移學習、持續學習和增強型學習。每一個食譜都不一樣,食譜裏的每一種食材都不一樣。我們無法把這部分寫死,必須開發一個善於學習和總結的機器人。這還是一個遙遠的理想。

2019年人工智能硬件有什麽趨勢?