1. 程式人生 > >微軟開源用於機器學習模型的高效能推理引擎 ONNX

微軟開源用於機器學習模型的高效能推理引擎 ONNX

  

微軟昨天宣佈開放 ONNX Runtime,這是一款用於 Linux,Windows 和 Mac 平臺的 ONNX 格式的機器學習模型的高效能推理引擎。ONNX Runtime 允許開發人員在任何支援的框架中訓練和調整模型,並在雲端和邊緣高效能運轉。微軟也正運用其在內部使用 ONNX Runtime 進行 Bing 搜尋,Bing Ads,Office生產力服務等。

ONNX 為 AI 框架生態系統帶來了互操作性,提供了可擴充套件計算圖模型的定義,以及內建運算子和標準資料型別的定義。

ONNX 使模型能夠在一個框架中進行訓練並轉移到另一個框架中進行推理。目前,Caffe2,Cognitive Toolkit 和 PyTorch 都支援 ONNX 模型。

點選這裡檢視開放式神經網路交換(ONNX)執行時。

來自:cnBeta