redis?bitmap數(shù)據(jù)結(jié)構(gòu)之java對(duì)等操作詳解
在之前的文章中,我們有說過bitmap,bitmap在很多場(chǎng)景可以應(yīng)用,比如黑白名單,快速判定,登錄情況等等??傊?,bitmap是以其高性能出名。其基本原理是一位存儲(chǔ)一個(gè)標(biāo)識(shí),其他衍生知道咱就不說了,而redis就是以這種原生格式存儲(chǔ)的。
實(shí)際上,redis是基于string的數(shù)據(jù)結(jié)構(gòu)實(shí)現(xiàn)了bitmap的功能。
1. redis基本的bitmap操作命令
最基本的,redis的bitmap有設(shè)置和讀取兩個(gè)值,即 setbit/getbit, 非常容易理解,即設(shè)置某個(gè)標(biāo)識(shí)為1,那么取值判定的時(shí)候,就可以得到true.
127.0.0.1:6379> setbit bm1 222 1 (integer) 0 127.0.0.1:6379> getbit bm1 222 (integer) 1
這很容易理解,也是最基本的。當(dāng)然,它還提供其他的一些操作:BITCOUNT 做數(shù)據(jù)量統(tǒng)計(jì), BITOP 做bitmap的交并差運(yùn)算... 我們也不必過多討論它。
2. java中的原生bitmap
可以說redis的bitmap實(shí)現(xiàn)相當(dāng)之簡(jiǎn)單,所以java也就順便實(shí)現(xiàn)了一個(gè)bitmap的版本:BitSet .
@Test
public void testJavaBitmap() {
BitSet bitmap = new BitSet();
bitmap.set(88);
// exist = true
boolean exist = bitmap.get(88);
BitSet bitmap2 = new BitSet();
bitmap2.set(99);
// bitmap中將包含 [88, 99]
bitmap.or(bitmap2);
}java中的bitmap實(shí)現(xiàn),也是按位存儲(chǔ),但是是基于long的存儲(chǔ)。
/*
* BitSets are packed into arrays of "words." Currently a word is
* a long, which consists of 64 bits, requiring 6 address bits.
* The choice of word size is determined purely by performance concerns.
*/
private final static int ADDRESS_BITS_PER_WORD = 6;
/**
* Sets the bit at the specified index to {@code true}.
*
* @param bitIndex a bit index
* @throws IndexOutOfBoundsException if the specified index is negative
* @since JDK1.0
*/
public void set(int bitIndex) {
if (bitIndex < 0)
throw new IndexOutOfBoundsException("bitIndex < 0: " + bitIndex);
int wordIndex = wordIndex(bitIndex);
expandTo(wordIndex);
words[wordIndex] |= (1L << bitIndex); // Restores invariants
checkInvariants();
}
/**
* Given a bit index, return word index containing it.
*/
private static int wordIndex(int bitIndex) {
return bitIndex >> ADDRESS_BITS_PER_WORD;
}所以,我們可以得出一個(gè)淺顯的結(jié)論,bitmap很簡(jiǎn)單,一點(diǎn)都不神秘。但是,大道至簡(jiǎn),它高性能,它自然還是有好處的,咱們?cè)撚眠€得用。顯然,java版本的bitmap雖然很很好用,但是它只是應(yīng)用級(jí)別的,只能在進(jìn)程內(nèi)使用,有太多的其他問題沒考慮,所以咱們還得要依賴于redis的bitmap.
問題:如果我有很多的數(shù)字標(biāo)識(shí)想要寫入redis中,然后再進(jìn)行讀取判定,該怎么辦呢?
很簡(jiǎn)單的,我們可以一個(gè)個(gè)地調(diào)用 setbit 命令,依次寫入redis中。這自然能解決問題,但是明顯會(huì)帶來很多的網(wǎng)絡(luò)io。
其次,我們可以使用pipeline調(diào)用setbit進(jìn)行批量寫入。這當(dāng)然是一種優(yōu)化方案,只是仍然不是最優(yōu)。
那有沒有什么更好的辦法呢?
3. java和redis的bitmap互操作
對(duì)于批量的操作,redis是基于string實(shí)現(xiàn),而java是基于bitset實(shí)現(xiàn)。其功能都基本差不多,判定、寫入、交并差運(yùn)算。那么,除了一個(gè)個(gè)按照各自語法進(jìn)行添加外,有沒有可能進(jìn)行數(shù)據(jù)結(jié)構(gòu)上的對(duì)等呢?
這個(gè)思路是很自然的,因?yàn)槲覀円呀?jīng)完全理解了各自的實(shí)現(xiàn)原理,為什么不呢?直接將BitSet轉(zhuǎn)換為byte[]寫入redis,直接將redis的bitmap當(dāng)作string讀出來不就可以了嗎?
事實(shí)真是如此嗎?實(shí)際上有點(diǎn)差別,原因是一個(gè)是大端存儲(chǔ),一個(gè)是小端存儲(chǔ)。
比如:比如對(duì)于存儲(chǔ)byte值: 00000010 , redis中會(huì)解釋為偏移為6的值為1, 而在java中則會(huì)解析為數(shù)字2存在于bitmap中。也就是說兩個(gè)的判定結(jié)果是不一樣的,一個(gè)是6,一個(gè)是2。如果把java中的值給調(diào)換一下,變成 01000000,那么就和redis是一樣的了。
而從redis中轉(zhuǎn)變到j(luò)ava中,則需要將每個(gè)byte位做一逆向操作判定,具體實(shí)現(xiàn)如下:
@Test
public void testSetBitmapData2Redis() {
//創(chuàng)建一個(gè)連接
Jedis jedis = new Jedis("localhost", 6379);
// 正向設(shè)置redis bitmap
String testBitmapKey = "mybitmap1";
jedis.set(testBitmapKey.getBytes(),
genRedisBitmap(2, 55, 133, 65537, 10_0000));
Assert.assertEquals("bitmap取值不正確", true,
jedis.getbit(testBitmapKey, 2L));
Assert.assertEquals("bitmap取值不正確", true,
jedis.getbit(testBitmapKey, 133L));
Assert.assertEquals("bitmap取值不正確", true,
jedis.getbit(testBitmapKey, 65537L));
Assert.assertEquals("bitmap取值不正確", true,
jedis.getbit(testBitmapKey, 10_0000L));
Assert.assertEquals("bitmap取值不正確", false,
jedis.getbit(testBitmapKey, 3L));
//在redis中獲取name值
byte[] redisBitmapData = jedis.get("mybitmap1".getBytes());
BitSet bitSet = convertRedisBitmapToJava(redisBitmapData);
Assert.assertTrue("redisBitmap反解不正確", bitSet.get(2));
Assert.assertTrue("redisBitmap反解不正確", bitSet.get(133));
Assert.assertTrue("redisBitmap反解不正確", bitSet.get(65537));
Assert.assertTrue("redisBitmap反解不正確", bitSet.get(10_0000));
Assert.assertFalse("redisBitmap反解不正確", bitSet.get(332));
jedis.close();
}
// 將redis的bitmap轉(zhuǎn)換為java 的bitset
private BitSet convertRedisBitmapToJava(byte[] redisBitmapData) {
int len = redisBitmapData.length;
BitSet bitSet = new BitSet();
// 每個(gè) byte 8位, 所以整個(gè)bitmap 的長度為 len * 8
for (int i = 0; i < len * 8; i++) {
byte currentSegment = redisBitmapData[i / 8];
if(currentSegment == 0) {
continue;
}
if((currentSegment & (1 << (7 - (i % 8) ) ) ) != 0 ) {
bitSet.set(i);
}
}
return bitSet;
}
// 生成redis的bitmap數(shù)據(jù)
private byte[] genRedisBitmap(int... items) {
BitSet bitSet = new BitSet();
// 2 55 133
for (int k : items) {
bitSet.set(k);
}
byte[] targetBitmap = bitSet.toByteArray();
convertJavaToRedisBitmap(targetBitmap);
return targetBitmap;
}
// 將java中的字節(jié)數(shù)組轉(zhuǎn)換為redis的bitmap數(shù)據(jù)形式
private void convertJavaToRedisBitmap(byte[] bytes) {
int len = bytes.length;
for (int i = 0; i < len; i++) {
byte b1 = bytes[i];
if(b1 == 0) {
continue;
}
byte transByte = 0;
for (byte j = 0; j < 8; j++) {
transByte |= (b1 & (1 << j)) >> j << (7 -j);
}
bytes[i] = transByte;
}
}經(jīng)驗(yàn)證,將8位的byte進(jìn)行位置反轉(zhuǎn),能夠完美匹配兩種數(shù)據(jù)結(jié)構(gòu)。
如此一來,就可以輕松將整個(gè)bitmap進(jìn)行初始化設(shè)置到redis中,從而在redis的bitmap中,使用 getbit 進(jìn)行高效判定了。
不要害怕今日的苦,你要相信明天,更苦!
到此這篇關(guān)于redis bitmap數(shù)據(jù)結(jié)構(gòu)之java對(duì)等操作的文章就介紹到這了,更多相關(guān)redis bitmap數(shù)據(jù)結(jié)構(gòu)內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
- Java Base64位編碼與String字符串的相互轉(zhuǎn)換,Base64與Bitmap的相互轉(zhuǎn)換實(shí)例代碼
- 海量數(shù)據(jù)去重排序bitmap(位圖法)在java中實(shí)現(xiàn)的兩種方法
- Java中利用BitMap位圖實(shí)現(xiàn)海量級(jí)數(shù)據(jù)去重
- java實(shí)現(xiàn)用戶簽到BitMap功能實(shí)現(xiàn)demo
- Java?BitMap源碼仿寫實(shí)現(xiàn)
- java使用bitmap實(shí)現(xiàn)可回收自增id的示例
- Java位集合之BitMap實(shí)現(xiàn)和應(yīng)用詳解
相關(guān)文章
Redis主從復(fù)制實(shí)現(xiàn)原理分析
Redis主從復(fù)制通過Sync和CommandPropagate階段實(shí)現(xiàn)數(shù)據(jù)同步,2.8版本后引入Psync指令,根據(jù)復(fù)制偏移量進(jìn)行全量或部分同步,優(yōu)化了數(shù)據(jù)傳輸效率2025-01-01
Jedis操作Redis實(shí)現(xiàn)模擬驗(yàn)證碼發(fā)送功能
Redis是一個(gè)著名的key-value存儲(chǔ)系統(tǒng),也是nosql中的最常見的一種,這篇文章主要給大家介紹Jedis操作Redis實(shí)現(xiàn)模擬驗(yàn)證碼發(fā)送功能,感興趣的朋友一起看看吧2021-09-09
如何使用redis的setnx實(shí)現(xiàn)分布式鎖
Redis Setnx(SET if Not eXists) 命令在指定的 key 不存在時(shí),為 key 設(shè)置指定的值,這篇文章主要介紹了使用redis的setnx實(shí)現(xiàn)分布式鎖,需要的朋友可以參考下2024-06-06

