1. 程式人生 > >OPEN AI LAB丨AIoT時代的開放應用平臺—Tengine 1.0正式釋出

OPEN AI LAB丨AIoT時代的開放應用平臺—Tengine 1.0正式釋出

2018年是AIoT元年,2018年初,開放智慧機器 OPEN AI LAB Tengine釋出0.1版本,一路引領嵌入式AI推理框架設計。Tengine經過一年打磨,在2019年初正式釋出1.0版本。Tengine的願景是成為AIoT時代的安卓,以開放的方式賦能整個產業鏈,讓AIoT應用開發不再難。

放智慧機器 OPEN AI LAB Tengine 1.0版本正式釋出
放智慧機器 OPEN AI LAB Tengine 1.0版本正式釋出

 

Tengine 1.0版本包含以下重大更新:

1. API升級到2.0版本,適配Arm中國周易 AIPU,推理效能與能效比大幅度提升;

2. 更好的TensorFlow模型支援,支援LSTM運算元,賦能語音場景;

3. 適配Armv8.2-A CPU構架與Cortex-A55 CPU,支援FP16與INT8點積計算,CPU推理效能飆升;

4. 釋出Tengine-APP,幫助新人快速掌握Tengine開發。

 

Cortex-A55上使用Tengine + HCL FP32/FP16/INT8 精度 MobileNetv1推理效能對比:

AIoT時代的開放應用平臺—Tengine 1.0正式釋出
Cortex-A55上使用Tengine + HCL FP32/FP16/INT8 精度 MobileNetv1推理效能對比:

 

至此Tengine依次解決了AIoT應用平臺亟需的多數特性:

1. 基於Arm CPU的多執行緒快速計算與量化計算

2. 全面支援嵌入式的多計算單元的異構計算

3. 開放相容Caffe/ TensorFlow/ONNX等多種訓練模型格式

4. 支援Linux/Android作業系統,和樹莓派,Firefly等開源硬體平臺

 

後續Tengine會繼續針對AIoT應用場景需求開發新的特性:

1. 增加對TensorFlow-Lite模型的支援,適配AndroidNN;

2. 釋出Tengine-M適配Arm Cortex-M CPU;

3. 適配更多NPU和晶片平臺。

 

瞭解更多Tengine開放平臺:

Tengine開源專案 https://github.com/OAID/Tengine

Tengine-APP專案 https://github.com/OAID/Tengine-app

 

教程分享:

Firefly-3399 https://blog.csdn.net/bassersai/article/details/81563409

樹莓派 http://shumeipai.nxez.com/2018/12/07/tengine-inference-engine-raspberry-pi-deep-learning.html

EAIDK主頁:即將上線

開發者交流群:QQ 829565581 Question:Tengine Answer:openailab


關於OPEN AI LAB

OPEN AI LAB(開放智慧實驗室)於2016年12月成立,由Arm中國聯合產業夥伴發起,致力於推動晶片、硬體、演算法軟體整個產業鏈的深度合作,加速人工智慧產業化應用部署和應用場景邊界拓展,為最終實現萬物智慧貢獻力量。

業務合作:[email protected]

瞭解更多:http://www.openailab.com/?csdn010402