關聯規則——Apriori算法
阿新 • • 發佈：2017-08-18
arr port 組合 stc tca pos 算子 次方 sset
Apriori算法是基於Apriori定律：
1、如果一個集合是頻繁項集，則它的所有子集都是頻繁項集。
2、如果一個集合不是頻繁項集，則它的所有超集都不是頻繁項集。
Apriori是由a priori合並而來的，它的意思是後面的是在前面的基礎上推出來的，即先驗推導，怎麽個先驗法，其實就是二級頻繁項集是在一級頻繁項集的基礎上產生的，三級頻繁項集是在二級頻繁項集的基礎上產生的，以此類推。
Apriori算法的過程如下：
1、抄來的php示例代碼，有改動
1 <?php 2 3 4 /** 5 * *實現Apriori算法 6 * 7 * 8 */9 class Apriori{ 10 public static $dCountMap = array(); //頻繁集的記數表 11 private static $MIN_SUP = 0.2; //最小支持度 12 private static $MIN_CONF = 0.8; //最小置信度 13 private static $confCount = array(); //置信度記錄表 14 private static $confItemset = array(); //滿足支持度的集合 15 16 /** 17 * 算法的第一次叠代，對每個項出現次數計數18 * @param $data 存儲數據的二維數組 19 * @return $list 返回候選1項集 20 */ 21 public function getFristCandiate($data){ 22 $list = array(); 23 for($i = 0; $i < sizeof($data); $i++){ 24 for($j = 0; $j < sizeof($data[$i]); $j++){ 25 if (!isset($list[$data[$i][$j]] )) 26 $list[$data[$i][$j]] = [$data[$i][$j]]; 27 } 28 } 29 return array_values($list); 30 } 31 32 /** 33 * 求出CItemset中滿足最低支持度集合 34 * @param $CItemset 備選集 35 */ 36 public function getSupportedItemset($data, $CItemset){ 37 $end = true; 38 $supportedItemset = array(); 39 $n = sizeof($CItemset[0])-1;//記錄這是第幾項集 40 $k = 0; 41 for($i = 0; $i < sizeof($CItemset); $i++){ 42 $count = $this->countFrequent($data, $CItemset[$i]);//統計 $CItemset[$i] 在 $data 中出現的次數 43 if($count >= self::$MIN_SUP * (sizeof($data) )){ //- 1源代碼次數有-1 感覺不用-1吧 總數×比例威懾呢買要-1呢 44 $supportedItemset[$k] = $CItemset[$i]; 45 self::$dCountMap[$n][$k] = $count; 46 $k++; 47 } 48 } 49 return $supportedItemset; 50 } 51 52 /** 53 * 統計備選集出現了多少次 54 * @param $data 數據表 55 * @param $list 備選集中的某一項 56 */ 57 public function countFrequent($data, $list){ 58 $count = 0; 59 for($i = 0; $i < sizeof($data); $i++){ 60 $record = true; 61 for($k = 0; $k < sizeof($list); $k++){ 62 if(!in_array($list[$k], $data[$i])){ 63 $record = false; 64 break; 65 } 66 } 67 if($record){ 68 $count++; 69 } 70 } 71 72 return $count; 73 } 74 75 /** 76 * 根據cItemset求出下一級的備選集合組，求出的備選集合組中的每個集合的元素的個數 77 * 比cItemset中的集合的元素大1 78 * @param $CItemset 79 * @return $nextItemset 80 */ 81 public function getNextCandidate($CItemset){ 82 $nextItemset = array(); 83 $count = 0; 84 //取出每一項集 85 for($k = 0; $k < sizeof($CItemset); $k++){ 86 //遍歷其他項集的每一個元素，判斷是否存在於該項集，如果不存在，則該加入該元素 87 for($i = $k + 1; $i < sizeof($CItemset); $i++){ 88 for($j = 0; $j < sizeof($CItemset[$i]); $j++){ 89 if(!in_array($CItemset[$i][$j], $CItemset[$k])){ 90 $tmp = $CItemset[$k];//先臨時儲存，滿足條件後在加入進去 91 //剪枝：即去掉子集不是頻繁的項集 92 if($this->isSubsetInC($tmp, $CItemset[$i][$j], $CItemset)){ 93 array_push($tmp, $CItemset[$i][$j]); 94 //去掉重復項 95 if(!$this->isHave($tmp, $nextItemset)){ 96 $nextItemset[$count] = $tmp; 97 $count++; 98 } 99 } 100 } 101 } 102 } 103 } 104 105 return $nextItemset; 106 } 107 108 /** 109 * 剪枝：即去掉子集不是頻繁的項集 110 * @param $itemset 前一項集的某一項，判斷能否加入新項後是否是平凡集 111 * @param $key 即將加入的一項 112 * @param $CItemset 前一項集 113 */ 114 public function isSubsetInC($itemset, $key, $CItemset){ 115 $record = 0; //記錄子集匹配的個數 116 for($i = 0; $i < sizeof($itemset); $i++){ 117 for($j = 0; $j < sizeof($CItemset); $j++){ 118 $subset = $itemset; 119 $subset[$i] = $key;//分別替換掉每一項就是子集 120 //如果相等，則記錄加一 121 if(sizeof(array_diff($subset, $CItemset[$j])) == 0){ 122 $record++; 123 break; 124 } 125 } 126 } 127 if($record == sizeof($itemset)){ 128 return true; 129 } 130 131 return false; 132 } 133 134 /** 135 * 判斷將要加入的項是否已經存在是否已經存在 136 * @param $list 將要加入的項 137 * @param $itemset 項集 138 */ 139 public function isHave($list, $itemset){ 140 for($i = 0; $i < sizeof($itemset); $i++){ 141 if(sizeof(array_diff($list, $itemset[$i])) == 0){ 142 return true; 143 } 144 } 145 146 return false; 147 } 148 } 149 $data =[[1,2,3],[1,3,4],[1,3,5],[1,4],[1,3,7],[5,8],[1,3,9]]; 150 $CItemset = array();//備選集 151 $lItemset = array();//獲取備選集$CItemset滿足支持度的集合 152 $n = 0; 153 $apriori = new Apriori(); 154 $CItemset[$n] = $apriori->getFristCandiate($data); //獲取第一次的備選集 155 $lItemset[$n] = $apriori->getSupportedItemset($data, $CItemset[$n]); //獲取備選集$CItemset滿足支持度的集合 156 $flag = true; 157 while ($flag) { 158 $itemset = $apriori->getNextCandidate($lItemset[$n]);// 獲取第下一次的備選集 159 if(sizeof($itemset) == 0){ 160 $flag = false; 161 break; 162 } 163 $CItemset[$n+1] = $itemset; 164 $lItemset[$n+1] = $apriori->getSupportedItemset($data, $CItemset[$n+1]); //獲取本次備選集$CItemset滿足支持度的集合 165 $n++; 166 } 167 var_dump($CItemset); 168 var_dump($lItemset); 169 var_dump(Apriori::$dCountMap);
2、計算置信度
對於一個頻繁集L，找到所有的L的非空子集非空子集f，如果f -> L - f，的概率滿足最小置信度，則這是一個強規則。
如果{A,B,C,D}是一個頻繁集，則它有如下候選規則
ABC -> D, ABD -> C, ACD -> B, BCD -> A, A -> BCD, B -> ACD, C -> ABD, D -> ABC，AB -> CD, AC -> BD, AD -> BC, BC -> AD, BD -> AC, CD -> AB
從中我們可以看出：
如果L的大小|L| = k， 則一共有（2的k次方減2） 個候選關聯規則（除去 空集和全集）。
簡化計算
根據公式我們可以推導出如下規則：
對於L = {A,B,C,D},它的子集的置信度有如下規則，
c(ABC -> D)>=c(AB -> CD) >= c(A -> BCD)
所以
圖中被紅圈標註的皆是不滿足最小置信度的規則。
參考代碼：
1 /** 2 * 計算一個項集產生的關聯規則的所有置信度 3 * @param $itemset 要計算的某一項集 4 * @param $lItemset 所有滿足支持度的集合 5 * @param $count 該項集的支持度 6 * @return $confidence 求出滿足最小置信度的關聯數組 7 */ 8 public function confidence($itemset, $lItemset, $count){ 9 $n = sizeof($itemset)-2; 10 $lkItemset = $lItemset[$n]; 11 $confidence = array(); 12 $this->subset = array(); 13 $this->getAllSubSet(0, $itemset);//獲得所有子集 14 for($i = 0; $i < sizeof($this->subset); $i++){ 15 $n = sizeof($this->subset[$i])-1; 16 if($n >= 0 && $n < sizeof($itemset)-1){ 17 $dkCountMap = self::$dCountMap[$n]; //根據大小，取出頻繁集對應的支持度 18 //比較取出每個子集對應的支持度，並計算出置信度 19 for($j = 0; $j < sizeof($lItemset[$n]); $j++){ 20 if(!array_diff($this->subset[$i], $lItemset[$n][$j])){ 21 $conf = $count / $dkCountMap[$j] * 1.0; 22 if($conf >= self::$MIN_CONF){ 23 $from = implode(",", $this->subset[$i]); 24 $to = implode(",", array_diff($itemset, $this->subset[$i])); 25 $confidence["$from ==> $to"] = $conf; 26 } 27 } 28 } 29 } 30 31 } 32 33 return $confidence; 34 } 35 36 /** 37 * 遞歸排列組合，獲得一個項集所有子集,包括全集和空集 38 * @param $pos 記錄將要放入子集的位置 39 * @param $itemset 要計算子集的項集 40 */ 41 public $p = array(); //記錄將要放入子集的位置,每一次遞歸就有0,1兩種選擇，最後即可獲得所有選擇 42 public $subset = array(); 43 public $subsetCount = 0; 44 public function getAllSubSet($pos, $itemset){ 45 if($pos == sizeof($itemset)){ 46 $tmp = array(); 47 for($i = 0; $i < sizeof($itemset); $i++){ 48 if($this->p[$i] == 1){ 49 array_push($tmp, $itemset[$i]); 50 } 51 } 52 $count = $this->subsetCount; 53 $this->subset[] = $tmp; 54 $this->subsetCount++; 55 return; 56 } 57 $this->p[$pos] = 0; 58 $this->getAllSubSet($pos+1, $itemset); 59 $this->p[$pos] = 1; 60 $this->getAllSubSet($pos+1, $itemset); 61 }
todo 從寫上面兩處代碼，合並為1個類
todo 優化 https://wizardforcel.gitbooks.io/dm-algo-top10/content/apriori.html
關聯規則——Apriori算法