AI重在生態,高通驍龍結合軟硬優勢以海量終端碾壓對手

(來源:高通官網)
高通在夏威夷發表新一代移動平臺驍龍855,以及衍生自驍龍855的計算平臺驍龍8cx,其不論是規模之大,以及在架構上的革新的確令人驚豔,然而對高通而言,SoC技術本身只是一部份重點,背後的生態更值得一提。
作為本世代移動SoC的重點,AI特性是本次高通著重突出的要素之一,同時高通也對外展示了其AI軟硬生態上的一些已經可落地的AI解決方案。
生態指的是支援特定技術所需要的軟硬資源,以及圍繞著相關技術所形成的利益圈,在資源的部分,包含了程式設計工具、開發軟硬體、框架、甚至支援這個特定技術的人力資源,也就是技術/應用開發者本身也屬於生態的一部份,而這也是之所以目前各大AI計算生態都要強調教育以及擴大開發者社群的根本原因。
生態積累並非一蹴可幾,高通選擇穩健循序漸進
然而生態需要積累,這個積累不僅僅只是針對開發環境的完備,更重要的是,為了讓開發者能有更大的市場基礎可以發揮,作為生態最基礎的硬體本身也要具備足夠的裝機量,那麼開發者所推出的應用才有更大的市場銷售潛力,並形成利益的共同體,當開發者更有利可圖,整個生態也才會更健康。
以AI生態為例,手機上的AI計算環境其實也才是這一兩年的事情,業界廠商在2017年開始主打硬體化的手機AI計算環境,強調計算效能表現,然而真正在AI開發環境投入最早的,卻是高通。而以AI裝置的裝機量而言,高通更遠遠超過其他所有方案廠商,包括自研晶片的手機廠。這也代表,以生態而言,高通其實擁有絕大的優勢,且在不短的未來都將持續。

(來源:高通官網)
早在對手的NPU現身之前,高通就已經使用其GPU加DSP的異構計算來建立AI計算生態。這種半軟半硬的方式的好處在於,在整體AI計算生態成熟前,該架構可以很靈活地和各種新型態的計算框架、演算法進行適配,若使用硬體NPU,可能就只能滿足於最早設計目標的那幾種演算法,存在可能被淘汰的風險。
另外,由於高通已經堅持使用DSP/GPU的異構計算已經有數年之久,早從820系列開始,就已經支援這樣的計算方式,目前其累積的裝機量已經遠遠超出數億支,單純就數量而言,已經是全球最多。
業界最早投入開放AI開發環境,已累積大量資源
高通也非常強調開放的開發環境,也就是說,只要基於開放框架設計的應用,配合高通的計算環境,就能發揮出AI的計算好處。
對此,高通提供開發者一套驍龍神經處理 SDK,它可以支援 Android NN 環境。也同時支援了 Hexagon NN環境,如果開發者選擇使用 Hexagon DSP 來做開發,HexagonNN 庫就可以專門針對某一核心進行優化。所有這些功能為開發者帶來極大的靈活性,並有助於他們實現效能最大化。這也說明,智慧手機 AI 體驗不能僅僅依靠一個特定的核心,更重要的是需要多種架構、多種工具所建構起來的完整體系。
早期高通手機方案的開發工具包都只針對其客戶發放,而之後SNPE(驍龍神經處理)SDK針對第三方開發者的友善設計算是高通相當明智的策略轉變,SNPE SDK 在應用開發上的優勢,以及在高通平臺的基礎滲透率極為龐大的狀況下,成為手機 AI 的主導平臺也不令人意外。
SNPE開發環境已經不再封閉,而是提供給廣大的第三方 AI 應用開發者,SNPE 也理所當然的支援主流深度學習框架,包含TensorFlow、Caffe 等,而不久前才發表的TensorFlow Lite 及 Facebook 與微軟合作推出的 ONNX 也同樣在支援之列。在AI晶片市場上,更完備的開放式開發環境將為高通提供顯著的競爭優勢。
最新方案針對AI計算全面優化,達到超越對手的硬體級效能表現
而觀察高通在驍龍峰會上釋出的最新一代驍龍855,之所以仍不放棄異構計算方式,一方面是為了延續過去積累的計算生態優勢,也就是說,針對過去舊款架構所開發的應用仍然能無痛的延續到最新平臺;另一方面,通過支援驍龍855框架的自動計算單元適配,新加入的張量計算單元能夠發揮其近似純硬體NPU的算力效率,能讓以通用框架開發的AI應用發揮更強大的效率表現,而若是針對高通硬體架構優化的應用,其效能提升更不在話下。

(來源:高通官網)
高通在Hexagon DSP加入的張量單元是現有AI硬體的補充,也就是說,異構計算在效能上還能得到極大的改善。根據帳面資料,DSP的效能是以前的4倍,並增加了Int16、Int8和混合指令格式,現在已經完成了對語音助手等常見用途的優化。另一方面,異構計算的另一個主角,也就是Adreno 640,則是增加了FP16和FP32指令,甚至CPU核心有PF32和Int8也是如此。
我們可以說,高通從CPU、DSP甚至GPU等核心設計,無一不是為AI打造優化。
高通公司表示,驍龍855所有計算單元的算力加總表現都超過7TOPS,它比上一代產品快3倍,與AI相關事件中最接近的競爭對手的效能提高2倍。隨著張量單元的引入,以及DSP和CPU在資料計算格式的改善,這一切也都顯得合理不過了。
以量取勝的絕對優勢生態,開發者的支援才是市場決勝關鍵
高通所有的AI開發環境可回溯支援至兩年前的驍龍820系列,驍龍820之後釋出的驍龍600系列也加入了AI計算優化,若單純以相關產品的銷售量計算,高通已經在市場上灑出了超過競爭對手一定量級的產品。DT君認為,這種市場力量的呈現將會是決定未來AI計算生態勝負的重要關鍵。