個性化推薦系統出了滿足使用者的需求，也應兼顧資訊提供者的利益，將他們的資訊以最高的效率投放給對資訊感興趣的使用者。

個性化推薦系統的演算法都是來自於機器學習和資料探勘，特殊之處在於對使用者行為和使用者心理的研究。

根據興趣將使用者聚類，也就是一種降維方法。機器學習的降維方法可以分為硬聚類和軟聚類，硬聚類的代表演算法是Kmeans和層次聚類，硬聚類的缺點是限制了使用者興趣只能屬於一種類別，而在現實生活中，使用者的興趣是多種多樣的。

在推薦系統中應用最廣泛的軟聚類演算法是主題模型（topic model）。在主題模型中，每個類被稱為隱類（latent class），而每個文件在不同的隱類上都有一個概率分佈來表示文件屬於該類的概率。目前，基於概率的主題模型比較流行，這是因為他能夠提供統一的量綱（概率），同時可以方便的加入各種先驗知識。

推薦系統的另外一個比較著名的模型是隱因子模型（Latent Factor Model），LFM是一種基於矩陣分解的降維方法，用於解決使用者對物品評分的預測問題。LFM是基於連續空間的，而LCM是基於離散空間的。此外LFM提供的使用者特徵向量和物品特徵向量也不是基於概率解釋的。

為了能迅速找到目標，推薦系統一般會利用倒排索引。如常見的幾種推薦系統：基於人口統計學的推薦系統，基於物品的推薦系統，基於位置的推薦系統。這些推薦系統的主要區別在於使用的使用者特徵以及計算“特徵-物品”索引的演算法不同。比如基於人口統計學的推薦系統是按照年齡、性別等特徵索引，而每個性別年齡段都記錄了和該性別年齡段最相關的物品； 基於物品的推薦系統是按照物品的ＩＤ索引，而每個物品都記錄了和它最相關的其它物品。

主題模型可以用來對詞空間進行降維，主要用於短文字的語義分析問題。

用於點選率預估的分類器需要滿足條件如下：

可以在大規模資料集上訓練分類器模型；

需要知道一個樣本是正樣本還是負樣本，還需要知道是正樣本的概率，而這個概率就是預估的點選率！！！！

可以增量更新；

預估點選率是效率很高，能夠滿足線上實時預估的要求；

能夠提供預估點選率的置信度；

很容易提供預估結果的解釋，比如提供一個使用者對一個物品的預估點選率很高的原因。

目前能夠同時滿足以上條件的分類演算法主要是邏輯迴歸（Ｌｏｇｉｓｔｉｃ　Ｒｅｇｒｅｓｓｉｏｎ）。目前工業界用的比較多的ＬＲ演算法主要有：

基於極大似然，用隨機梯度下降法優化；

ＬＢＦＧＳ；

基於貝葉斯網路，利用期望傳播（Ｅｘｐｅｃｔａｔｉｏｎ　Ｐｒｏｐａｇａｔｉｏｎ）優化。

ＬＲ是線性模型，線上預測的效能可以得到保證。並且其模型訓練已有成熟的並行化策略，可以用到大規模的資料集上。ＬＲ的模型可以增量更新，如果使用基於線上學習的優化方法（ｏｎｌｉｎｅ　ｌｅａｒｎｉｎｇ），可以實現模型的線上更新；如果使用基於貝葉斯網路的ＬＲ，可以提供預測結果的置信度；在進行預測結果的解釋上，可以提供權重高的特徵作為解釋。

ＬＲ演算法適用於特徵、樣本很多的情況。如果遇到特徵很少（少於100個特徵）、樣本很多的問題，一般使用決策樹的演算法。這是因為在特徵很少時，問題往往是非線性的，此時可以發揮決策樹演算法的優勢。

將點選率預估問題轉換為兩類分類問題的方法，其實是排序學習（Learning to rank, LTR）中的按點（point-wise）演算法。除了按點，還有按對（pair-wise）和按表（list-wise）演算法。Netflix公司就在其推薦系統中全面應用LTR技術。