TF之AutoML之AdaNet框架:AdaNet框架的簡介、特點、使用方法詳細攻略
TF之AutoML之AdaNet框架:AdaNet框架的簡介、特點、使用方法詳細攻略
AdaNet框架的簡介
谷歌開源了基於 TensorFlow 的輕量級框架 AdaNet,該框架可以使用少量專家干預來自動學習高質量模型。
AdaNet 是一個輕量級的基於TensorFlow的框架,可以在最少的專家干預下自動學習高質量的模型。這個專案基於Cortes等人2017年提出的AdaNet演算法,用於學習作為子網路集合的神經網路的結構。AdaNet 在谷歌近期的強化學習和基於進化的 AutoML 的基礎上構建,快速靈活同時能夠提供學習保證(learning guarantee)。重要的是,AdaNet 提供通用框架,不僅能用於學習神經網路架構,還能學習整合架構以獲取更好的模型。
AdaNet實現了TensorFlow Estimator介面,通過封裝訓練、評估、預測和服務匯出,大大簡化了機器學習程式設計。它集成了開源工具,如TensorFlow Hub模組,TensorFlow Model Analysis和Google Cloud的Hyperparameter Tuner。分散式訓練支援可顯著縮短訓練時間,並可與可用的CPU和加速器(例如GPU)進行線性擴充套件。
相關論文:《 AdaNet: Adaptive Structural Learning of Artificial Neural Networks》
論文地址:http://proceedings.mlr.press/v70/cortes17a/cortes17a.pdf
Github 專案地址:https://github.com/tensorflow/adanet
教程 notebook:https://github.com/tensorflow/adanet/tree/v0.1.0/adanet/examples/tutorials
AdaNet框架的特點
1、AdaNet 易於使用,能夠建立高質量模型,節省 ML 從業者在選擇最優神經網路架構上所花費的時間,實現學習神經架構作為整合子網路的自適應演算法。
2、AdaNet 能夠新增不同深度、寬度的子網路,從而建立不同的整合,並在效能改進和引數數量之間進行權衡。
3、AdaNet提供以下特徵:
- Estimator API,可輕鬆訓練、評估和服務AdaNet模型。
- 學習在TensorFlow中整合使用者定義的子網。
- 用於在單個 train() 呼叫中搜索子網架構和引數的介面。
- 關於CPU和GPU的分散式訓練(我們正在開發TPU支援)。
- 一流的TensorBoard integration。
- 提供理論學習。
AdaNet框架的使用方法
正在研究ing
1、AdaNet的GitHub上使用教程:https://github.com/tensorflow/adanet/tree/v0.1.0/adanet/examples/tutorials