【原始碼】機器學習中的投影牛頓型方法
機器學習中的投影牛頓型方法
我們考慮用於解決機器學習及相關領域中出現的大規模優化問題的投影牛頓型方法。
We consider projected Newton-type methodsfor solving large-scale optimization problems arising in machine learning andrelated fields.
我們首先通過回顧經典的投影（擬）牛頓方法，介紹了投影牛頓型演算法框架。
We first introduce an algorithmic frameworkfor projected Newton-type methods by reviewing a canonical projected (quasi-)Newton method.
該方法雖然在概念上令人滿意，但每次迭代具有較高的計算成本。
This method, while conceptually pleasing,has a high computation cost per iteration.
因此，我們討論兩種更具伸縮性的衍生演算法，即二度量投影和非精確投影方法。
Thus, we discuss two variants that are morescalable, namely, two-metric projection and inexact projection methods.
最後，我們展示瞭如何應用牛頓型框架來處理非平滑目標。
Finally, we show how to apply theNewton-type framework to handle non-smooth objectives.
本文中提供例子來說明我們設計的框架在機器學習上的應用。
Examples are provided throughout thechapter to illustrate machine learning applications of our framework.
我們研究了求解優化問題的牛頓型方法。
We study Newton-type methods for solvingthe optimization problem.
……
與本文相關的一個英文網站供參考：
下載英文原文地址：
更多精彩文章請關注微訊號：
