授課老師：Andrew Ng

1、problem formulation(問題產生)

在平時購物的時候我們都會看到網站把向我們推薦的商品放在醒目位置，其實這就是推薦系統。現在考慮一個電影推薦系統的例子，我們擁有一些使用者對於一些電影的評分，如下：

從上面可以看到，使用者對電影的評分分為從0到5這六個等級，有些使用者沒有看過某部電影，故對該電影的評價未知。分析之下能發現電影列表中的電影可以分為兩個類別，上面三部都是愛情片，下面兩部為動作片。現在的問題是，如何根據使用者對電影的評分給使用者推薦電影？

2、content-based recommendations(基於內容的推薦)

現在我們擁有使用者對電影的評分，同時我們也需要知道電影的特徵，基於內容的推薦的前提就是獲取待推薦物品的特徵資訊。針對上面的例子，可以認為這些電影中只含有兩類特徵，一種是romance

其中x1代表每部電影的romance等級，x2代表action等級，x(1)代表《love at last》這部電影的特徵資訊，其餘類似，這樣我們就把電影轉換成了向量形式。和機器學習中的其他方法類似，我們對向量增加一維常量1，最後把每部電影轉換為一個3*1的向量。現在，光有電影的特徵是不夠的，如果要預測使用者對電影的評分，顯然還需要知道使用者的喜好，這裡用theta表示：

可以看到，theta也是一個3*1的向量，第一維依然是常量，後兩維是對兩類電影的喜好，theta(1)代表第一個使用者自己的喜好。有了這些資訊後，就可以用

和迴歸類似，寫出代價函式，然後用梯度下降求解：

通過這樣，我們就能求出theta。

3、collaborative filtering(協同過濾)

上面求出了theta，不過細細分析後會發現關於x也是我們人為指定的，如果不指定電影的特徵資訊應該如下：

為了求出x，我們需要指定出theta，接下來還是那一套老路：

這下我們犯難了，theta和x都沒給，那怎麼求？這是一個雞生蛋蛋生雞的問題！這就是協同過濾要解決的難題。

4、collaborative filtering algorithm(協同過濾演算法)

先對之前提出的問題進行一下總結：

可以發現，合併之後引數變成了x和theta兩類，針對這個代價函式梯度下降時只能交替處理x和theta：

這樣就能夠在不知道x和theta的情況下進行求解了。

5、vectorization:low rank matrix factorization(向量化-小秩矩陣分解)

其實在獲取上面使用者對電影的評分之後，可以用矩陣的形式進行表述：

其實Y矩陣中的元素都是通過theta和x計算得來，展開如下：

上面的矩陣可以分解為X和theta兩個向量，這就是小秩矩陣分解。如果要尋找哪兩種電影最相近，可以通過計算X向量中兩個值的差值來判斷，差值越小，則越相近：

6、implementational detail:Mean normalization(標準化)

現在我們在原來的資料上增加一列：

在這裡Eve還沒有對任何電影評過分，我們只能假設他對所有電影的評分都為0。此時，我們對其評分進行預測，得到的結果都為0。針對這種情況，我們先對Y進行標準化處理：

在求出均值後，對Y進行變換，用標準化後的Y來進行計算，得到的結果要加上均值，這樣就能確保Eve的評分不會一直為0，這樣還是比較有道理的。

------------------------------------------------------弱弱的分割線----------------------------------------------------

這一講主要介紹了推薦系統是怎麼回事，關鍵是要學習兩個向量，物品特徵向量和使用者偏好向量。協同過濾的思想就是在不知道這兩個向量時用梯度下降的方法對其進行求解。在把資料矩陣化之後，可以用矩陣分解的方法求解，關於具體做法很遺憾這裡沒有講，最常見的恐怕是SVD方法，關於SVD的具體內容可以看這裡：

另外給出一個具體的例子-電影推薦系統：