這篇文章將為大家詳細(xì)講解有關(guān)Java如何實(shí)現(xiàn)布隆過濾器,小編覺得挺實(shí)用的,因此分享給大家做個(gè)參考,希望大家閱讀完這篇文章后可以有所收獲。
目前創(chuàng)新互聯(lián)公司已為上1000家的企業(yè)提供了網(wǎng)站建設(shè)、域名、網(wǎng)絡(luò)空間、網(wǎng)站運(yùn)營(yíng)、企業(yè)網(wǎng)站設(shè)計(jì)、晉中網(wǎng)站維護(hù)等服務(wù),公司將堅(jiān)持客戶導(dǎo)向、應(yīng)用為本的策略,正道將秉承"和諧、參與、激情"的文化,與客戶和合作伙伴齊心協(xié)力一起成長(zhǎng),共同發(fā)展。
前言
布隆過濾器的作用是加快判定一個(gè)元素是否在集合中出現(xiàn)的方法。因?yàn)槠渲饕沁^濾掉了大部分元素間的精確匹配,故稱為過濾器。
布隆過濾器
在日常生活工作,我們會(huì)經(jīng)常遇到這的場(chǎng)景,從一個(gè)Excel里面檢索一個(gè)信息在不在Excel表中,還記得被CTRL+F支配的恐懼么,不扯了,軟件開發(fā)中,一般會(huì)使用散列表來實(shí)現(xiàn),Hash Table也叫哈希表,哈希表的優(yōu)點(diǎn)是快速準(zhǔn)確,缺點(diǎn)是浪費(fèi)儲(chǔ)存空間,我們這個(gè)場(chǎng)景,儲(chǔ)存登錄的userId到哈希表,當(dāng)用戶規(guī)模十分巨大的時(shí)候,哈希表的儲(chǔ)存效率低的問題就顯示出來了,今天介紹一種數(shù)學(xué)工具:布隆過濾器,它只需要哈希表1/8到1/4的大小就能解決同樣的問題。
背書中
布隆過濾器(Bloom Filter)是由伯頓·布隆(Burton Bloom)于1970年提出來的,它實(shí)際上是一個(gè)很長(zhǎng)的二進(jìn)制向量和一系列隨機(jī)映射函數(shù)。
原理
使用我們這個(gè)場(chǎng)景,來講原理吧,假設(shè)我們的個(gè)人網(wǎng)站同時(shí)在線人數(shù)達(dá)到1億(意淫一下),要存儲(chǔ)這一億人的在線狀態(tài),先構(gòu)建一個(gè)16億比特位即兩億字節(jié)的向量,然后把這16億個(gè)比特位都記為0。對(duì)于每一個(gè)登錄用的userId,使用8個(gè)不同的算法產(chǎn)出8個(gè)不同信息指紋,在用一個(gè)算法把這8個(gè)信息隱身到這16億個(gè)比特位的8個(gè)位置上,把這8個(gè)位置都設(shè)置成1,這樣就構(gòu)建成了一個(gè)記錄一億用戶在線狀態(tài)的布隆過濾器。

1億在線用戶的布隆過濾器
檢索就是同樣的原理,使用相同的算法對(duì)要檢索的userId產(chǎn)生8個(gè)信息指紋,然后在看這八個(gè)信息指紋在這16億比特位對(duì)應(yīng)的值是否為1,都為1就說明這個(gè)userId在線,下面就用java代碼來實(shí)現(xiàn)一個(gè)布隆過濾器。
Java實(shí)現(xiàn)布隆過濾器
先實(shí)現(xiàn)一個(gè)簡(jiǎn)單的布隆過濾器
package edu.se;
import java.util.BitSet;
/**
* @author ZhaoWeinan
* @date 2018/10/28
* @description
*/
public class BloomFileter {
//使用加法hash算法,所以定義了一個(gè)8個(gè)元素的質(zhì)數(shù)數(shù)組
private static final int[] primes = new int[]{2, 3, 5, 7, 11, 13, 17, 19};
//用八個(gè)不同的質(zhì)數(shù),相當(dāng)于構(gòu)建8個(gè)不同算法
private Hash[] hashList = new Hash[primes.length];
//創(chuàng)建一個(gè)長(zhǎng)度為10億的比特位
private BitSet bits = new BitSet(256 << 22);
public BloomFileter() {
for (int i = 0; i < primes.length; i++) {
//使用8個(gè)質(zhì)數(shù),創(chuàng)建八種算法
hashList[i] = new Hash(primes[i]);
}
}
//添加元素
public void add(String value) {
for (Hash f : hashList) {
//算出8個(gè)信息指紋,對(duì)應(yīng)到2的32次方個(gè)比特位上
bits.set(f.hash(value), true);
}
}
//判斷是否在布隆過濾器中
public boolean contains(String value) {
if (value == null) {
return false;
}
boolean ret = true;
for (Hash f : hashList) {
//查看8個(gè)比特位上的值
ret = ret && bits.get(f.hash(value));
}
return ret;
}
//加法hash算法
public static class Hash {
private int prime;
public Hash(int prime) {
this.prime = prime;
}
public int hash(String key) {
int hash, i;
for (hash = key.length(), i = 0; i < key.length(); i++) {
hash += key.charAt(i);
}
return (hash % prime);
}
}
public static void main(String[] args) {
BloomFileter bloomFileter = new BloomFileter();
System.out.println(bloomFileter.contains("5324512515"));
bloomFileter.add("5324512515");
//維護(hù)1億個(gè)在線用戶
for (int i = 1 ; i < 100000000 ; i ++){
bloomFileter.add(String.valueOf(i));
}
long begin = System.currentTimeMillis();
System.out.println(begin);
System.out.println(bloomFileter.contains("5324512515"));
long end = System.currentTimeMillis();
System.out.println(end);
System.out.println("判斷5324512515是否在線使用了:" + (begin - end));
}
}這段代碼是構(gòu)建了一個(gè)10億位的bitSet,然后把一億個(gè)userId加入到了我們的布隆過濾器中,最近判斷5324512515這個(gè)userId是否登錄,打出代碼的執(zhí)行時(shí)間

維護(hù)了1億個(gè)userId以后檢索5324512515是否登錄,代碼執(zhí)行時(shí)間很短
在讓我們來看看內(nèi)存占用的情況

jvm整個(gè)的內(nèi)存情況
再來看看BloomFileter這個(gè)類的實(shí)例,就占用了100多MB

實(shí)例的大小
看來布隆過濾器對(duì)于儲(chǔ)存的效率確實(shí)很高
布隆過濾器的誤識(shí)別問題
布隆過濾器的好處在于快速、省空間,但是有一定的誤識(shí)別率,這個(gè)概率很小,要計(jì)算出現(xiàn)誤識(shí)別的概率并不難,下面貼一段書上的話
假定布隆過濾器有m比特,里面有n個(gè)元素,每個(gè)元素對(duì)應(yīng)k個(gè)信息指紋的hash函數(shù),在這個(gè)布隆過濾器插入一個(gè)元素,那么比特位被設(shè)置成1的概率為1/m,它依然為0的概率為1-1/m,那么k個(gè)哈希函數(shù)都沒有把他設(shè)置成1的概率為1-1/m的k次方,一個(gè)比特在插入了n個(gè)元素后,被設(shè)置為1的概率為1減1-1/m的kn次方,最后書上給出了一個(gè)公式,在這里就不貼了,就貼一個(gè)表吧,是m/n比值不同,以及K分別為不同的值得情況下的假陽性概率:

書上的表,直接拍下來的

書上的表,直接拍下來的
布隆過濾器就為大家說到這里,歡迎大家來交流,指出文中一些說錯(cuò)的地方,讓我加深認(rèn)識(shí)。
關(guān)于“Java如何實(shí)現(xiàn)布隆過濾器”這篇文章就分享到這里了,希望以上內(nèi)容可以對(duì)大家有一定的幫助,使各位可以學(xué)到更多知識(shí),如果覺得文章不錯(cuò),請(qǐng)把它分享出去讓更多的人看到。
當(dāng)前名稱:Java如何實(shí)現(xiàn)布隆過濾器
鏈接URL:http://chinadenli.net/article8/jpcdop.html
成都網(wǎng)站建設(shè)公司_創(chuàng)新互聯(lián),為您提供網(wǎng)站設(shè)計(jì)、網(wǎng)站導(dǎo)航、用戶體驗(yàn)、品牌網(wǎng)站建設(shè)、面包屑導(dǎo)航、營(yíng)銷型網(wǎng)站建設(shè)
聲明:本網(wǎng)站發(fā)布的內(nèi)容(圖片、視頻和文字)以用戶投稿、用戶轉(zhuǎn)載內(nèi)容為主,如果涉及侵權(quán)請(qǐng)盡快告知,我們將會(huì)在第一時(shí)間刪除。文章觀點(diǎn)不代表本網(wǎng)站立場(chǎng),如需處理請(qǐng)聯(lián)系客服。電話:028-86922220;郵箱:631063699@qq.com。內(nèi)容未經(jīng)允許不得轉(zhuǎn)載,或轉(zhuǎn)載時(shí)需注明來源: 創(chuàng)新互聯(lián)