譜聚類(Spectral Clustering, SC)在前面的博文中已經詳述，是一種基於圖論的聚類方法，簡單形象且理論基礎充分，在社交網路中廣泛應用。本文將講述進一步擴充套件其應用場景:首先是User-Item協同聚類，即spectral coclustering，之後再詳述譜聚類的進一步優化。

1 Spectral Coclustering

1.1 協同聚類(Coclustering)

    在資料分析中，聚類是最常見的一種方法，對於一般的聚類演算法(kmeans, spectral clustering, gmm等等)，聚類結果都類似圖1所示，能挖掘出資料之間的類簇規律。

圖1 聚類結果圖

    即使對於常見的資料User-Item評分矩陣(常見於各社交平臺的資料之中，例如音樂網站的使用者-歌曲評分矩陣，新聞網站的使用者-新聞評分矩陣，電影網站的使用者-電影評分矩陣等等)，如表1所示。在聚類分析中，也常常將資料計算成User-User的相似度關係或Item-Item的相似度關係，計算方法諸如應用Jaccard距離，將User或Item分別當成Item或User的特徵，再在此基礎上計算歐氏距離、cos距離等等。

表1 User-Item評分矩陣

    但是如果能聚類成如圖2中的coclustering關係，將User和Item同時聚類，將使得資料結果更具意義，即在音樂網站中的使用者和歌曲coclustering結果表明，某些使用者大都喜歡某類歌曲，同時這類歌曲也大都只被這群使用者喜歡著。這樣，不管是用於何種場景(例如歌曲推薦)，都將帶來極大的益處。

圖2 coclustering圖

1.2 Spectral Coclustering

    對於User-Item評分矩陣，這是一個典型的二部圖(Bipartite Grap)，Item-User矩陣A，假設A為N*M，即N個item和M個user，可展開成:

其中E為(M+N)*(M+N)的方陣，且對稱。

    對於A的二部圖，只存在Item與User之間的鄰接邊，在Item(User)之間不存在鄰接邊。再用譜聚類原理——將帶權無向圖劃分為兩個或兩個以上的最優子圖，使子圖內部儘量相似，而子圖間距離儘量距離較遠。這樣的聚類結果將Cut儘量少的邊，分割出User和Item的類，如果類記C_i

    在譜聚類的基礎上，再實現Spectral Coclustering，十分簡單， 將E直接當成譜聚類的鄰接矩陣即可，至於求Laplacian矩陣、求特徵值、計算Kmeans，完成與譜聚類相同。

    PS:更多詳情，請參見參考文獻1。

2 譜聚類的半監督學習

    假設有大量新聞需要聚類，但對於其中的部分新聞，編輯已經人工分類好了，例如(N_i1,N_i2, …, N_im)，為分類好的第i類，那麼對於人工分類好的資料，就相當於聚類中的先驗知識(或正則)。

    在聚類時，可相應在鄰接矩陣E中增加類彼此間鄰接邊，並使得其鄰接權重較大，這樣生成的鄰接矩陣為E’。這樣，再對此鄰接矩陣E’做譜聚類，聚類結果將在一定程度上維持人工分類的結果，並達到聚類的目的。

    PS：更多詳情，請參見參考文獻2，不過譜聚類的半監督學習，都有點扯。 

參考文獻：

1 Inderjit S. Dhillon. Co-clustering documents and words using Bipartite Spectral Graph Partitioning;

2 W Chen. Spectral clustering: A semi-supervised approach;

3 Wen-Yen Chen, Yangqiu Song, Hongjie Bai, Chih-Jen Lin, Edward Y. Chang. Parallel Spectral Clustering in Distributed Systems.

----