智慧MCU漸成主流 | 半導體行業觀察
來源：內容由 微信公眾號 半導體行業觀察（ID：icbank） 李飛 原創，謝謝。
隨著人工智慧和物聯網技術的發展，我們看到智慧裝置正在加速普及。我們的身邊，漸漸地有智慧音箱、早教機器人、掃地機器人等新智慧裝置品類出現，同時在智慧工業、智慧城市和智慧零售等領域，智慧化的腳步也在向前進展。我們看到，在這樣的發展趨勢下，傳統的MCU晶片也在發生著深刻的變化，在向智慧化的方向發展。
智慧物聯網與MCU智慧化
這一波人工智慧的興起起源於大資料和深度學習。隨著網際網路的發展，人類社會產生了大量資料，而大資料配合深度神經網路等演算法可以訓練出一些精度極高的機器學習模型，從而能撬動人臉識別，自動駕駛，語音識別等新應用。基於大資料的人工智慧中，終端節點負責採集資料並且交給雲端，雲端伺服器反覆迭代訓練高精度模型，並最終將這些模型部署到應用中。應當說資料採集和模型訓練的任務分別在終端和雲端做目前得到了一致認可，但是具體部署的機器學習模型在何處執行在不同的應用中卻有所不同。
有些應用（如攝像頭內容分析）的模型部署在雲端，即終端把原始資料完全回傳給雲端，雲端在該資料上執行深度學習模型的推理，之後把結果發回給終端，終端再根據雲端的結果執行相應操作；而在自動駕駛等應用中模型必須部署在終端，即終端收集到資料後在本地執行深度學習模型的推理，並根據結果作出相應動作。在智慧工業等需要在終端執行深度學習模型推理的場景，原來用來執行相關動作的MCU就必須能夠支援這樣的深度學習推理計算，這也就是MCU的智慧化。
通常來說，機器學習模型必須部署在終端執行的理由包括傳輸頻寬、反應延遲和安全性等。從傳輸頻寬來考慮，目前物聯網中節點分佈在各種場景中，如果要把原始資料直接傳輸到雲端，則頻寬開銷非常大，而且無線傳輸的能量開銷也不小。而如果在終端部署機器學習推理則可以省下頻寬的開銷，只需要有選擇性地把部分重要資料傳送到雲端，而無需傳輸全部原始資料。
反應延遲也是把深度學習部署在終端的重要理由。目前資料到雲端的來回傳送時間通常在數百毫秒級，對於工業機器人等對於延遲有高要求的應用來說無法滿足要求。即使在5G低延遲網路下，無線網路的可靠性對於智慧工業等要求高可靠性的應用來說也難以滿足需求，偶爾的高延遲甚至資料丟包都可能會造成要求即時反應的機器發生問題，因此會傾向於選擇將深度學習推理的計算放在本地做。
最後，資料的安全性也是一個考量，對於一些敏感應用來說將資料通過網路傳送給雲端伺服器意味著存在著資料被入侵的風險——如果黑客通過破解智慧工廠與雲端伺服器的資料從而控制整個工廠將會給工廠帶來巨大損失——而如果把這些計算放在本地則會安全地多。
根據上述的場景，我們認為需要執行本地機器學習推理計算的MCU主要會執行在如下場景中：
-智慧生產，需要快速反應且重視資料的安全性，如根據聲音識別機器故障等；
-小型機器人，沒有人會希望機器人一旦斷網就無法工作，如無人機，掃地機器人等；
-智慧家電，如智慧空調根據人的位置智慧送風等；
-智慧可穿戴裝置，如根據人體的生理訊號給出相應提示等。
隨著上述在終端部署執行機器學習推理計算的需求，一些原來只負責執行基本程式的MCU也必須要有能力能跑動機器學習推理計算。這對於MCU的挑戰在於算力，因為在這一波人工智慧的浪潮中，訓練好的模型所需要的計算量通常是數十萬次計算到數億次計算不等，如果需要實時執行這些運算則MCU需要的算力將會比原來的MCU強幾個數量級。
另外，智慧MCU對功耗和實時性也有很高要求，這就需要MCU設計能有相應改變。目前，MCU正處於8位更新換代到32位的過程中，我們預計在32位MCU的基礎上，智慧化會成為下一個MCU的演進方向。
智慧化技術路徑一：整合加速器IP
目前MCU領域，ARM佔據了領導者的地位，其IP佔據了大量的市場份額。對於智慧化MCU的興起，ARM自然也不會袖手旁觀，而是起到了推動者的作用，幫助MCU實現智慧化。
ARM的Cortex系列架構佔據著32位MCU的主導位置，所以ARM推進智慧MCU的方法需要兼顧其Cortex架構，不能為了推智慧化MCU結果把自己的命給革了。因此，ARM選擇的方法是給Cortex核搭配一個獨立的加速器IP，當需要執行機器學習相關演算法時呼叫這個加速器IP去做計算，而當做傳統操作時還是使用Cortex。
ARM的機器學習加速器系列產品即Project Trillium，其中包括了機器學習處理器（ML Processor），物體檢測處理器等硬體IP，同時還包括可以在這些加速器以及Cortex核和Mali GPU上最優化執行相關演算法的軟體棧ARM NN。以ARM ML Processor為例（如下圖），其架構包含了用於加速專用函式的加速引擎Fixed-function Engine，用於加速神經網路的可程式設計層引擎Programmable Layer Engine，片上記憶體，用於控制加速器執行的網路控制單元以及用於訪問片外記憶體的DMA。
ARM ML Processor是典型的加速器架構，它有自己的指令集，只能執行和機器學習相關的運算加速而無法執行其他程式，因此必須搭配Cortex核才能發揮作用。ARM ML Processor可以最高實現4.6TOPS的算力，同時最高能效比可達3TOPS／W，效能實屬優秀，對於算力需求不高的場合也可以通過降低執行速度來降低功耗，以滿足MCU的需求。
除了ARM之外，其他MCU巨頭也在紛紛佈局AI加速器，其中意法半導體屬於技術領先的位置。在去年，意法釋出了其用於超低功耗MCU的專用卷積神經網路加速器，代號為Orlando Project，在28nm FD-SOI上可以實現2.9TOPS／W的超高能效比，相信隨著技術和市場需求的進一步需求將會轉為商用化。
應該說目前基於專用機器學習加速器IP的智慧MCU尚處於蓄勢待發階段。顧名思義，專用機器學習加速器通過專用化的設計實現了很高的能效比，然而這也限制了應用範圍，只能加速一部分機器學習演算法，而無法顧及通用性。
目前，機器學習加速器最主要的加速物件演算法是神經網路演算法，尤其是卷積神經網路。從技術上說，卷積神經網路在執行過程中並行度高，存在加速空間，一個加速器相比傳統處理器往往能把神經網路的執行速度和能效比提升幾個數量級。從人工智慧的發展脈絡來看，這一波人工智慧中最成功的應用也是基於卷積神經網路的機器視覺應用，因此大家都專注於卷積神經網路的加速也是順理成章。
然而，對於MCU來說，專注於卷積神經網路加速卻未必是一個最優化的選擇。首先，MCU市場的應用存在一定碎片化，而一個專用的加速器很難覆蓋多個應用，因此對於習慣了設計標準化MCU並走量覆蓋許多個市場的半導體廠商來說是否使用專用化加速器是一個需要仔細考慮的選擇。換句話說，許多應用中希望智慧MCU能高效執行基於非卷積神經網路的機器學習演算法（例如SVM，決策樹等等），那麼這些應用就無法被一個專用的卷積神經網路加速器覆蓋到，而需要設計另外一套加速器。當然，這對於IP商ARM來說不是件壞事，因為ARM可以快速提升其機器學習加速器的IP品類數量並從中獲利，但是對於半導體公司來說卻有些頭疼。
此外，卷積神經網路最成功的應用是機器視覺，然而在MCU應用中除了機器視覺之外還有許多其他應用，甚至可以說智慧MCU的應用中機器視覺並非最大的市場，這也限制了只能處理卷積神經網路的專用加速器IP的市場。
智慧化路徑二：處理器架構改良
根據上面的討論，ARM因為之前使用Cortex核佔領了MCU市場，因此其保留Cortex架構不變併力推能搭配Cortex核使用的專用加速器IP也是必然的商業邏輯。然而，基於專用機器學習加速器IP的智慧MCU在碎片化應用中會遇到應用覆蓋過窄的問題，這也就是為什麼還存在第二條MCU智慧化的技術路徑——改良處理器架構。
處理器架構改良意味著直接設計一個低功耗高算力的通用處理器，這樣就可以覆蓋幾乎所有MCU應用，從而避免了專用加速器的通用性問題。當然，在處理器設計中，往往需要從指令集開始全盤重新設計，因此需要很大的投入。
根據半導體行業的傳統，從頭設計一套新的自有指令集往往是吃力而不討好，因為指令集的設計、驗證、可擴充套件性考慮等等往往不是一個團隊就能完成的，而是需要大量人長時間的努力。然而，最近隨著RISC-V開源指令集得到越來越多的認可，使用基於RISC-V指令集去做新處理器架構可以大大節省指令集和架構開發的成本以及風險。RISC-V指令集經過開源社群的認證，已經證明非常靠譜，可以無需從頭造輪子，而只需要把精力集中在需要改良的部分，因此在這個時間點做新處理器架構可謂是正逢其時。
使用新架構做智慧MCU的代表公司是來自法國的初創公司Greenwaves Technologies。Greenwaves正是使用了基於RISC-V的指令集，同時在架構上在MCU中也引入了多核的概念，通過多資料流（SIMD）的方式來加速人工智慧演算法中的平行計算，可謂是MCU架構上的一個革新。
目前，Greenwaves的第一款產品GAP8已經處於出樣階段。根據網站資料，GAP8擁有8個核，可以在數十毫瓦的功耗下實現8GOPS的算力，該算力已經能滿足許多智慧MCU的需求。更關鍵的是，由於GAP8使用的是多核通用處理器而非專用加速器去加速人工智慧演算法，因此其可以通用性非常好，可以覆蓋各種演算法以及應用。在應用存在碎片化的MCU市場，這無疑是一個很大的優勢。由於使用的是通用處理器，GAP8的能效比相對於ARM的專用加速器在特定的領域較弱，但是GAP8的通用性卻是ARM的專用加速器無法企及的。
另外值得指出的是，新處理器架構和專用加速器並非水火不容，完全可以在使用新處理器架構的同時整合一個專用加速器，從而使用專用加速器去加速特定的應用，而使用通用化的新架構處理器去處理高效處理其他應用。這裡專用與通用的選擇完全則很大程度上取決於市場的需求以及潛在的商業回報。
除了Greenwaves之外，瑞薩也推出了類似的新處理器架構。與Greenwaves略有不同的是，瑞薩並不是做一個新的通用處理器架構，而是做了一個可配置的協處理器，該協處理器可以使用高階語言（如C／C++）程式設計，在不同的應用場景可以配置為不同的架構，從而兼顧了通用性和專用性。瑞薩將該架構稱作為動態可重構處理器（Dynamic Reconfigurable Processor, DRP），該架構之前已經在瑞薩的視訊處理器中已經得到了驗證，現在瑞薩準備將該架構也搬到MCU中，並將在今年十月正式釋出第一代整合DRP的MCU。
結語
人工智慧和物聯網的結合推進了智慧MCU概念。我們預計在未來幾年將會看到智慧MCU的普及，而在智慧MCU的兩條技術路徑之間選擇則不僅會影響MCU市場，更有可能會對於半導體生態造成深遠影響——如果專用加速器IP獲勝，則ARM將繼續成為智慧MCU的領導者，反之如果新架構獲勝則ARM將會遇到強力的挑戰。