基於模型的推薦系統

評分資料是高度相關的，資料的冗餘可以讓我們用低秩矩陣來近似原矩陣。隱語義模型目前是the state of art。
$U 为 m \times k$ 的矩陣， $V 为 n \times k$ 的矩陣，他兩的乘積用以估計評分矩陣

\begin{matrix} (1) & R \approx U V^{T} \end{matrix}

通過優化目標函式來求解U、V，即最小化殘差矩陣

(2)

\begin{matrix} (2) & | | R - U V^{T} | |^{2} \end{matrix}

矩陣分解講原始的空間降維到k維，可以理解為：

\begin{aligned} r_{i j} & \approx u_{i} v_{j} \\ = \sum_{s = 1}^{k} u_{i s} \cdot v_{j s} \\ (3) & = \sum_{s = 1}^{k} (A f f i n i t y o f u s e r t o c o n c e p e t s) \times (A f f i n i t y o f i t e m t o c o n c e p e t s) \end{aligned}

目標函式

\begin{matrix} (5) & m i n J = \frac{1}{2} | | R - U V^{T} | |^{2}, \end{matrix}

如上目標函式針對的是矩陣中木有缺失項，若有缺失項則不再適用

\begin{matrix} (6) & m i n J = \frac{1}{2} \sum_{i, j \in S} e_{i j}^{2} = \frac{1}{2} \sum_{i, j \in S} (r_{i, j} - \sum_{s = 1}^{k} u_{i s} \cdot v_{j s})^{2} \end{matrix}

公式

6

只針對觀測到的評分部分計算損失，梯度計算如下：

\begin{aligned} \frac{\partial J}{\partial u_{i q}} & = \sum_{j : (i, j) \in S} (r_{i, j} - \sum_{s = 1}^{k} u_{i s} \cdot v_{j s}) (- v_{j q}) \\ (7) & = \sum_{j : (i, j) \in S} e_{i j} (- v_{j q}) \end{aligned}