實現LRU

1.用一個數組來儲存資料，給每一個數據項標記一個訪問時間戳，每次插入新資料項的時候，先把陣列中存在的資料項的時間戳自增，並將新資料項的時間戳置為0並插入到陣列中。每次訪問陣列中的資料項的時候，將被訪問的資料項的時間戳置為0。當陣列空間已滿時，將時間戳最大的資料項淘汰。 2.利用一個連結串列來實現，每次新插入資料的時候將新資料插到連結串列的頭部；每次快取命中（即資料被訪問），則將資料移到連結串列頭部；那麼當連結串列滿的時候，就將連結串列尾部的資料丟棄。 3.利用連結串列和hashmap。當需要插入新的資料項的時候，如果新資料項在連結串列中存在（一般稱為命中），則把該節點移到連結串列頭部，如果不存在，則新建一個節點，放到連結串列頭部，若快取滿了，則把連結串列最後一個節點刪除即可。在訪問資料的時候，如果資料項在連結串列中存在，則把該節點移到連結串列頭部，否則返回-1。這樣一來在連結串列尾部的節點就是最近最久未訪問的資料項。 對於第一種方法，需要不停地維護資料項的訪問時間戳，另外，在插入資料、刪除資料以及訪問資料時，時間複雜度都是O(n)。對於第二種方法，連結串列在定位資料的時候時間複雜度為O(n)。所以在一般使用第三種方式來是實現LRU演算法。

實現方案

使用LinkedHashMap實現      LinkedHashMap底層就是用的HashMap加雙鏈表實現的，而且本身已經實現了按照訪問順序的儲存。此外，LinkedHashMap中本身就實現了一個方法removeEldestEntry用於判斷是否需要移除最不常讀取的數，方法預設是直接返回false，不會移除元素，所以需要重寫該方法。即當快取滿後就移除最不常用的數。

public class LRU<K,V> {

  private static final float hashLoadFactory = 0.75f;
  private LinkedHashMap<K,V> map;
  private int cacheSize;

  public LRU(int cacheSize) {
    this.cacheSize = cacheSize;
    int capacity = (int)Math.ceil(cacheSize / hashLoadFactory) + 1;
    map = new LinkedHashMap<K,V>(capacity, hashLoadFactory, true){
      private static final long serialVersionUID = 1;

      @Override
      protected boolean removeEldestEntry(Map.Entry eldest) {
        return size() > LRU.this.cacheSize;
      }
    };
  }

  public synchronized V get(K key) {
    return map.get(key);
  }

  public synchronized void put(K key, V value) {
    map.put(key, value);
  }

  public synchronized void clear() {
    map.clear();
  }

  public synchronized int usedSize() {
    return map.size();
  }

  public void print() {
    for (Map.Entry<K, V> entry : map.entrySet()) {
      System.out.print(entry.getValue() + "--");
    }
    System.out.println();
  }
}
 

當存在熱點資料時，LRU的效率很好，但偶發性的、週期性的批量操作會導致LRU命中率急劇下降，快取汙染情況比較嚴重。

擴充套件

1.LRU-K

LRU-K中的K代表最近使用的次數，因此LRU可以認為是LRU-1。LRU-K的主要目的是為了解決LRU演算法“快取汙染”的問題，其核心思想是將“最近使用過1次”的判斷標準擴充套件為“最近使用過K次”。 相比LRU，LRU-K需要多維護一個佇列，用於記錄所有快取資料被訪問的歷史。只有當資料的訪問次數達到K次的時候，才將資料放入快取。當需要淘汰資料時，LRU-K會淘汰第K次訪問時間距當前時間最大的資料。 資料第一次被訪問時，加入到歷史訪問列表，如果書籍在訪問歷史列表中沒有達到K次訪問，則按照一定的規則（FIFO,LRU）淘汰；當訪問歷史佇列中的資料訪問次數達到K次後，將資料索引從歷史佇列中刪除，將資料移到快取佇列中，並快取資料，快取佇列重新按照時間排序；快取資料佇列中被再次訪問後，重新排序，需要淘汰資料時，淘汰快取佇列中排在末尾的資料，即“淘汰倒數K次訪問離現在最久的資料”。 LRU-K具有LRU的優點，同時還能避免LRU的缺點，實際應用中LRU-2是綜合最優的選擇。由於LRU-K還需要記錄那些被訪問過、但還沒有放入快取的物件，因此記憶體消耗會比LRU要多。

2.two queue

Two queues（以下使用2Q代替）演算法類似於LRU-2，不同點在於2Q將LRU-2演算法中的訪問歷史佇列（注意這不是快取資料的）改為一個FIFO快取佇列，即：2Q演算法有兩個快取佇列，一個是FIFO佇列，一個是LRU佇列。當資料第一次訪問時，2Q演算法將資料快取在FIFO佇列裡面，當資料第二次被訪問時，則將資料從FIFO佇列移到LRU佇列裡面，兩個佇列各自按照自己的方法淘汰資料。 新訪問的資料插入到FIFO佇列中，如果資料在FIFO佇列中一直沒有被再次訪問，則最終按照FIFO規則淘汰；如果資料在FIFO佇列中再次被訪問到，則將資料移到LRU佇列頭部，如果資料在LRU佇列中再次被訪問，則將資料移動LRU佇列頭部，LRU佇列淘汰末尾的資料。

3.Multi Queue(MQ)

     MQ演算法根據訪問頻率將資料劃分為多個佇列，不同的佇列具有不同的訪問優先順序，其核心思想是：優先快取訪問次數多的資料。詳細的演算法結構圖如下，Q0，Q1....Qk代表不同的優先順序佇列，Q-history代表從快取中淘汰資料，但記錄了資料的索引和引用次數的佇列： 新插入的資料放入Q0，每個佇列按照LRU進行管理，當資料的訪問次數達到一定次數，需要提升優先順序時，將資料從當前佇列中刪除，加入到高一級佇列的頭部；為了防止高優先順序資料永遠不會被淘汰，當資料在指定的時間裡沒有被訪問時，需要降低優先順序，將資料從當前佇列刪除，加入到低一級的佇列頭部；需要淘汰資料時，從最低一級佇列開始按照LRU淘汰，每個佇列淘汰資料時，將資料從快取中刪除，將資料索引加入Q-history頭部。如果資料在Q-history中被重新訪問，則重新計算其優先順序，移到目標佇列頭部。Q-history按照LRU淘汰資料的索引。 MQ需要維護多個佇列，且需要維護每個資料的訪問時間，複雜度比LRU高。

LRU演算法對比

對比點	對比
命中率	LRU-2 > MQ(2) > 2Q > LRU
複雜度	LRU-2 > MQ(2) > 2Q > LRU
代價	LRU-2  > MQ(2) > 2Q > LRU