聚類在資料探勘中佔有重要地位，聚類即是將一系列資料點劃分成一個個簇，將擁有同樣特性的資料點判為同一個簇內，以此來做進一步的分析。目前最基礎的、運用最廣泛的聚類演算法當數K均值演算法，初始(隨機)選定K箇中心點，計算每個點到這K箇中心點的距離，將其劃分進距離最近的中心點的簇內。根據簇內點的平均值來更新簇的中心點，再根據新的中心點劃分簇。不斷迭代，直到中心點不再變化。K均值演算法的優點是運算方法十分簡單明瞭，計算簡單，但它同樣存在缺點，K均值演算法對初始點十分敏感，初始點的選擇會影響到聚類的結果和收斂速度。另外，K均值演算法只能聚類出球型簇。

對K均值演算法的優化有很多方式，AP(Affinity Propagation 近鄰傳播)演算法就是其中一種，它可以避免初始值敏感的問題，但計算規則十分複雜。而這篇論文中提出了一個新的聚類演算法，作者稱其為PP演算法，“probability propagation”，概率傳播演算法。這個新演算法與AP演算法相比，計算規則更簡潔，並且可以識別出非球形的簇。

這種演算法其實是在不斷計算點i選擇點j作為中心點的概率，當概率矩陣w穩定後，概率最大的j即為i的中心點。所以PP演算法的核心就是計算初始的w矩陣和確定迭代公式。

初始概率矩陣w0：

– 在初始化w之前，我們需要計算每個點的區域性密度V(y) :
其中D(x,y)是點x到點y的距離，K是一個核函式，引數delta是使用者預先設定的，N(y)是與點y距離不大於delta的所有點的集合。初始的矩陣w0正比於區域性密度：

通過預定引數s來限定中心點的個數，從而控制簇的形狀：

這是修改後的初始概率矩陣

迭代公式：

初始的w矩陣蘊含著兩點直連的資訊，為了能劃分出任意形狀的簇，我們還應該考慮兩點之間距離很遠但中間存在許多點將其連線的情況，因此我們需要通過第三個點來重新計算兩點之間的概率：

相關推薦