【原創！推薦！】不瞭解布隆過濾器？一文給你整的明明白白！
海量資料處理以及快取穿透這兩個場景讓我認識了 布隆過濾器 ，我查閱了一些資料來了解它，但是很多現成資料並不滿足我的需求，所以就決定自己總結一篇關於布隆過濾器的文章。希望通過這篇文章讓更多人瞭解布隆過濾器，並且會實際去使用它！
下面我們將分為幾個方面來介紹布隆過濾器：
- 什麼是布隆過濾器？
- 布隆過濾器的原理介紹。
- 布隆過濾器使用場景。
- 通過 Java 程式設計手動實現布隆過濾器。
- 利用Google開源的Guava中自帶的布隆過濾器。
- Redis 中的布隆過濾器。
1.什麼是布隆過濾器？
首先，我們需要了解布隆過濾器的概念。
布隆過濾器（Bloom Filter）是一個叫做 Bloom 的老哥於1970年提出的。我們可以把它看作由二進位制向量（或者說位陣列）和一系列隨機對映函式（雜湊函式）兩部分組成的資料結構。相比於我們平時常用的的 List、Map 、Set 等資料結構，它佔用空間更少並且效率更高，但是缺點是其返回的結果是概率性的，而不是非常準確的。理論情況下新增到集合中的元素越多，誤報的可能性就越大。並且，存放在布隆過濾器的資料不容易刪除。
位陣列中的每個元素都只佔用 1 bit ，並且每個元素只能是 0 或者 1。這樣申請一個 100w 個元素的位陣列只佔用 1000000 / 8 = 125000 B = 15625 byte ≈ 15.3kb 的空間。
總結：一個名叫 Bloom 的人提出了一種來檢索元素是否在給定大集合中的資料結構，這種資料結構是高效且效能很好的，但缺點是具有一定的錯誤識別率和刪除難度。並且，理論情況下，新增到集合中的元素越多，誤報的可能性就越大。
2.布隆過濾器的原理介紹
當一個元素加入布隆過濾器中的時候，會進行如下操作：
- 使用布隆過濾器中的雜湊函式對元素值進行計算，得到雜湊值（有幾個雜湊函式得到幾個雜湊值）。
- 根據得到的雜湊值，在位陣列中把對應下標的值置為 1。
當我們需要判斷一個元素是否存在於布隆過濾器的時候，會進行如下操作：
- 對給定元素再次進行相同的雜湊計算；
- 得到值之後判斷位陣列中的每個元素是否都為 1，如果值都為 1，那麼說明這個值在布隆過濾器中，如果存在一個值不為 1，說明該元素不在布隆過濾器中。
舉個簡單的例子：
如圖所示，當字串儲存要加入到布隆過濾器中時，該字串首先由多個雜湊函式生成不同的雜湊值，然後在對應的位陣列的下表的元素設定為 1（當位陣列初始化時 ，所有位置均為0）。當第二次儲存相同字串時，因為先前的對應位置已設定為1，所以很容易知道此值已經存在（去重非常方便）。
如果我們需要判斷某個字串是否在布隆過濾器中時，只需要對給定字串再次進行相同的雜湊計算，得到值之後判斷位陣列中的每個元素是否都為 1，如果值都為 1，那麼說明這個值在布隆過濾器中，如果存在一個值不為 1，說明該元素不在布隆過濾器中。
不同的字串可能雜湊出來的位置相同，這種情況我們可以適當增加位陣列大小或者調整我們的雜湊函式。
綜上，我們可以得出：布隆過濾器說某個元素存在，小概率會誤判。布隆過濾器說某個元素不在，那麼這個元素一定不在。
3.布隆過濾器使用場景
- 判斷給定資料是否存在：比如判斷一個數字是否在於包含大量數字的數字集中（數字集很大，5億以上！）、 防止快取穿透（判斷請求的資料是否有效避免直接繞過快取請求資料庫）等等、郵箱的垃圾郵件過濾、黑名單功能等等。
- 去重：比如爬給定網址的時候對已經爬取過的 URL 去重。
4.通過 Java 程式設計手動實現布隆過濾器
我們上面已經說了布隆過濾器的原理，知道了布隆過濾器的原理之後就可以自己手動實現一個了。
如果你想要手動實現一個的話，你需要：
- 一個合適大小的位陣列儲存資料
- 幾個不同的雜湊函式
- 新增元素到位陣列（布隆過濾器）的方法實現
- 判斷給定元素是否存在於位陣列（布隆過濾器）的方法實現。
下面給出一個我覺得寫的還算不錯的程式碼（參考網上已有程式碼改進得到，對於所有型別物件皆適用）：
import java.util.BitSet;
public class MyBloomFilter {
/**
* 位陣列的大小
*/
private static final int DEFAULT_SIZE = 2 << 24;
/**
* 通過這個陣列可以建立 6 個不同的雜湊函式
*/
private static final int[] SEEDS = new int[]{3, 13, 46, 71, 91, 134};
/**
* 位陣列。陣列中的元素只能是 0 或者 1
*/
private BitSet bits = new BitSet(DEFAULT_SIZE);
/**
* 存放包含 hash 函式的類的陣列
*/
private SimpleHash[] func = new SimpleHash[SEEDS.length];
/**
* 初始化多個包含 hash 函式的類的陣列，每個類中的 hash 函式都不一樣
*/
public MyBloomFilter() {
// 初始化多個不同的 Hash 函式
for (int i = 0; i < SEEDS.length; i++) {
func[i] = new SimpleHash(DEFAULT_SIZE, SEEDS[i]);
}
}
/**
* 新增元素到位陣列
*/
public void add(Object value) {
for (SimpleHash f : func) {
bits.set(f.hash(value), true);
}
}
/**
* 判斷指定元素是否存在於位陣列
*/
public boolean contains(Object value) {
boolean ret = true;
for (SimpleHash f : func) {
ret = ret && bits.get(f.hash(value));
}
return ret;
}
/**
* 靜態內部類。用於 hash 操作！
*/
public static class SimpleHash {
private int cap;
private int seed;
public SimpleHash(int cap, int seed) {
this.cap = cap;
this.seed = seed;
}
/**
* 計算 hash 值
*/
public int hash(Object value) {
int h;
return (value == null) ? 0 : Math.abs(seed * (cap - 1) & ((h = value.hashCode()) ^ (h >>> 16)));
}
}
}測試：
String value1 = "https://javaguide.cn/";
String value2 = "https://github.com/Snailclimb";
MyBloomFilter filter = new MyBloomFilter();
System.out.println(filter.contains(value1));
System.out.println(filter.contains(value2));
filter.add(value1);
filter.add(value2);
System.out.println(filter.contains(value1));
System.out.println(filter.contains(value2));Output:
false
false
true
true測試：
Integer value1 = 13423;
Integer value2 = 22131;
MyBloomFilter filter = new MyBloomFilter();
System.out.println(filter.contains(value1));
System.out.println(filter.contains(value2));
filter.add(value1);
filter.add(value2);
System.out.println(filter.contains(value1));
System.out.println(filter.contains(value2));Output:
false
false
true
true5.利用Google開源的 Guava中自帶的布隆過濾器
自己實現的目的主要是為了讓自己搞懂布隆過濾器的原理，Guava 中布隆過濾器的實現算是比較權威的，所以實際專案中我們不需要手動實現一個布隆過濾器。
首先我們需要在專案中引入 Guava 的依賴：
<dependency>
<groupId>com.google.guava</groupId>
<artifactId>guava</artifactId>
<version>28.0-jre</version>
</dependency>實際使用如下：
我們建立了一個最多存放 最多 1500個整數的布隆過濾器，並且我們可以容忍誤判的概率為百分之（0.01）
// 建立布隆過濾器物件
BloomFilter<Integer> filter = BloomFilter.create(
Funnels.integerFunnel(),
1500,
0.01);
// 判斷指定元素是否存在
System.out.println(filter.mightContain(1));
System.out.println(filter.mightContain(2));
// 將元素新增進布隆過濾器
filter.put(1);
filter.put(2);
System.out.println(filter.mightContain(1));
System.out.println(filter.mightContain(2));在我們的示例中，當mightContain（） 方法返回true時，我們可以99％確定該元素在過濾器中，當過濾器返回false時，我們可以100％確定該元素不存在於過濾器中。
Guava 提供的布隆過濾器的實現還是很不錯的（想要詳細瞭解的可以看一下它的原始碼實現），但是它有一個重大的缺陷就是隻能單機使用（另外，容量擴充套件也不容易），而現在網際網路一般都是分散式的場景。為了解決這個問題，我們就需要用到 Redis 中的布隆過濾器了。
6.Redis 中的布隆過濾器
6.1介紹
Redis v4.0 之後有了 Module（模組/外掛） 功能，Redis Modules 讓 Redis 可以使用外部模組擴充套件其功能 。布隆過濾器就是其中的 Module。詳情可以檢視 Redis 官方對 Redis Modules 的介紹 ：https://redis.io/modules。
另外，官網推薦了一個 RedisBloom 作為 Redis 布隆過濾器的 Module,地址：https://github.com/RedisBloom/RedisBloom。其他還有：
- redis-lua-scaling-bloom-filter （lua 指令碼實現）：https://github.com/erikdubbelboer/redis-lua-scaling-bloom-filter
- pyreBloom（Python中的快速Redis 布隆過濾器） ：https://github.com/seomoz/pyreBloom
- ......
RedisBloom 提供了多種語言的客戶端支援，包括：Python、Java、JavaScript 和 PHP。
6.2使用Docker安裝
如果我們需要體驗 Redis 中的布隆過濾器非常簡單，通過 Docker 就可以了！我們直接在 Google 搜尋docker redis bloomfilter 然後在排除廣告的第一條搜素結果就找到了我們想要的答案（這是我平常解決問題的一種方式，分享一下），具體地址：https://hub.docker.com/r/redislabs/rebloom/ （介紹的很詳細 ）。
具體操作如下：
➜ ~ docker run -p 6379:6379 --name redis-redisbloom redislabs/rebloom:latest
➜ ~ docker exec -it redis-redisbloom bash
root@21396d02c252:/data# redis-cli
127.0.0.1:6379> 6.3常用命令一覽
注意： key:布隆過濾器的名稱，item : 新增的元素。
BF.ADD：將元素新增到布隆過濾器中，如果該過濾器尚不存在，則建立該過濾器。格式：BF.ADD {key} {item}。BF.MADD: 將一個或多個元素新增到“布隆過濾器”中，並建立一個尚不存在的過濾器。該命令的操作方式BF.ADD與之相同，只不過它允許多個輸入並返回多個值。格式：BF.MADD {key} {item} [item ...]。BF.EXISTS: 確定元素是否在布隆過濾器中存在。格式：BF.EXISTS {key} {item}。BF.MEXISTS： 確定一個或者多個元素是否在布隆過濾器中存在格式：BF.MEXISTS {key} {item} [item ...]。
另外，BF.RESERVE 命令需要單獨介紹一下：
這個命令的格式如下：
BF.RESERVE {key} {error_rate} {capacity} [EXPANSION expansion]。
下面簡單介紹一下每個引數的具體含義：
- key：布隆過濾器的名稱
- error_rate :誤報的期望概率。這應該是介於0到1之間的十進位制值。例如，對於期望的誤報率0.1％（1000中為1），error_rate應該設定為0.001。該數字越接近零，則每個專案的記憶體消耗越大，並且每個操作的CPU使用率越高。
- capacity: 過濾器的容量。當實際儲存的元素個數超過這個值之後，效能將開始下降。實際的降級將取決於超出限制的程度。隨著過濾器元素數量呈指數增長，效能將線性下降。
可選引數：
- expansion：如果建立了一個新的子過濾器，則其大小將是當前過濾器的大小乘以
expansion。預設擴充套件值為2。這意味著每個後續子過濾器將是前一個子過濾器的兩倍。
6.4實際使用
127.0.0.1:6379> BF.ADD myFilter java
(integer) 1
127.0.0.1:6379> BF.ADD myFilter javaguide
(integer) 1
127.0.0.1:6379> BF.EXISTS myFilter java
(integer) 1
127.0.0.1:6379> BF.EXISTS myFilter javaguide
(integer) 1
127.0.0.1:6379> BF.EXISTS myFilter github
(integer) 0開源專案推薦
作者的其他開源專案推薦：
- JavaGuide：【Java學習+面試指南】 一份涵蓋大部分Java程式設計師所需要掌握的核心知識。
- springboot-guide : 適合新手入門以及有經驗的開發人員查閱的 Spring Boot 教程（業餘時間維護中，歡迎一起維護）。
- programmer-advancement : 我覺得技術人員應該有的一些好習慣！
- spring-security-jwt-guide :從零入門 ！Spring Security With JWT（含許可權驗證）後端部分程式碼。