Redis緩存空間優(yōu)化實踐詳解

更新時間：2023年04月20日 11:09:01 作者：京東云開發(fā)者

緩存Redis，是我們最常用的服務(wù)，其適用場景廣泛，被大量應(yīng)用到各業(yè)務(wù)場景中。也正因如此，緩存成為了重要的硬件成本來源，我們有必要從空間上做一些優(yōu)化，降低成本的同時也會提高性能，本文通過代碼示例介紹了redis如何優(yōu)化緩存空間，需要的朋友可以參考一下

導(dǎo)讀

緩存Redis，是我們最常用的服務(wù)，其適用場景廣泛，被大量應(yīng)用到各業(yè)務(wù)場景中。也正因如此，緩存成為了重要的硬件成本來源，我們有必要從空間上做一些優(yōu)化，降低成本的同時也會提高性能。

下面以我們的案例說明，將緩存空間減少70%的做法。

場景設(shè)定

1、我們需要將POJO存儲到緩存中，該類定義如下

public class TestPOJO implements Serializable {
    private String testStatus;
    private String userPin;
    private String investor;
    private Date testQueryTime;
    private Date createTime;
    private String bizInfo;
    private Date otherTime;
    private BigDecimal userAmount;
    private BigDecimal userRate;
    private BigDecimal applyAmount;
    private String type;
    private String checkTime;
    private String preTestStatus;
    
    public Object[] toValueArray(){
        Object[] array = {testStatus, userPin, investor, testQueryTime,
                createTime, bizInfo, otherTime, userAmount,
                userRate, applyAmount, type, checkTime, preTestStatus};
        return array;
    }
    
    public CreditRecord fromValueArray(Object[] valueArray){         
        //具體的數(shù)據(jù)類型會丟失，需要做處理
    }
}

2、用下面的實例作為測試數(shù)據(jù)

TestPOJO pojo = new TestPOJO();
pojo.setApplyAmount(new BigDecimal("200.11"));
pojo.setBizInfo("XX");
pojo.setUserAmount(new BigDecimal("1000.00"));
pojo.setTestStatus("SUCCESS");
pojo.setCheckTime("2023-02-02");
pojo.setInvestor("ABCD");
pojo.setUserRate(new BigDecimal("0.002"));
pojo.setTestQueryTime(new Date());
pojo.setOtherTime(new Date());
pojo.setPreTestStatus("PROCESSING");
pojo.setUserPin("ABCDEFGHIJ");
pojo.setType("Y");

常規(guī)做法

System.out.println(JSON.toJSONString(pojo).length());

使用JSON直接序列化、打印 length=284**，**這種方式是最簡單的方式，也是最常用的方式，具體數(shù)據(jù)如下：

{"applyAmount":200.11,"bizInfo":"XX","checkTime":"2023-02-02","investor":"ABCD","otherTime":"2023-04-10 17:45:17.717","preCheckStatus":"PROCESSING","testQueryTime":"2023-04-10 17:45:17.717","testStatus":"SUCCESS","type":"Y","userAmount":1000.00,"userPin":"ABCDEFGHIJ","userRate":0.002}

我們發(fā)現(xiàn)，以上包含了大量無用的數(shù)據(jù)，其中屬性名是沒有必要存儲的。

改進1-去掉屬性名

System.out.println(JSON.toJSONString(pojo.toValueArray()).length());

通過選擇數(shù)組結(jié)構(gòu)代替對象結(jié)構(gòu)，去掉了屬性名，打印 length=144，將數(shù)據(jù)大小降低了50%，具體數(shù)據(jù)如下：

["SUCCESS","ABCDEFGHIJ","ABCD","2023-04-10 17:45:17.717",null,"XX","2023-04-10 17:45:17.717",1000.00,0.002,200.11,"Y","2023-02-02","PROCESSING"]

我們發(fā)現(xiàn)，null是沒有必要存儲的，時間的格式被序列化為字符串，不合理的序列化結(jié)果，導(dǎo)致了數(shù)據(jù)的膨脹，所以我們應(yīng)該選用更好的序列化工具。

改進2-使用更好的序列化工具

//我們?nèi)匀贿x取JSON格式，但使用了第三方序列化工具
System.out.println(new ObjectMapper(new MessagePackFactory()).writeValueAsBytes(pojo.toValueArray()).length);

選取更好的序列化工具，實現(xiàn)字段的壓縮和合理的數(shù)據(jù)格式，打印 **length=92，**空間比上一步又降低了40%。

這是一份二進制數(shù)據(jù)，需要以二進制操作Redis，將二進制轉(zhuǎn)為字符串后，打印如下：

??SUCCESS?ABCDEFGHIJ?ABCD??j?6???XX??j?6?????`bM????@i??Q?Y?2023-02-02?PROCESSING

順著這個思路再深挖，我們發(fā)現(xiàn)，可以通過手動選擇數(shù)據(jù)類型，實現(xiàn)更極致的優(yōu)化效果，選擇使用更小的數(shù)據(jù)類型，會獲得進一步的提升。

改進3-優(yōu)化數(shù)據(jù)類型

在以上用例中，testStatus、preCheckStatus、investor這3個字段，實際上是枚舉字符串類型，如果能夠使用更簡單數(shù)據(jù)類型（比如byte或者int等）替代string，還可以進一步節(jié)省空間。其中checkTime可以用Long類型替代字符串，會被序列化工具輸出更少的字節(jié)。

public Object[] toValueArray(){
    Object[] array = {toInt(testStatus), userPin, toInt(investor), testQueryTime,
    createTime, bizInfo, otherTime, userAmount,
    userRate, applyAmount, type, toLong(checkTime), toInt(preTestStatus)};
    return array;
}

在手動調(diào)整后，使用了更小的數(shù)據(jù)類型替代了String類型，打印 length=69

改進4-考慮ZIP壓縮

除了以上的幾點之外，還可以考慮使用ZIP壓縮方式獲取更小的體積，在內(nèi)容較大或重復(fù)性較多的情況下，ZIP壓縮的效果明顯，如果存儲的內(nèi)容是TestPOJO的數(shù)組，可能適合使用ZIP壓縮。

但ZIP壓縮并不一定會減少體積，在小于30個字節(jié)的情況下，也許還會增加體積。在重復(fù)性內(nèi)容較少的情況下，無法獲得明顯提升。并且存在CPU開銷。

在經(jīng)過以上優(yōu)化之后，ZIP壓縮不再是必選項，需要根據(jù)實際數(shù)據(jù)做測試才能分辨到ZIP的壓縮效果。

最終落地

上面的幾個改進步驟體現(xiàn)了優(yōu)化的思路，但是反序列化的過程會導(dǎo)致類型的丟失，處理起來比較繁瑣，所以我們還需要考慮反序列化的問題。

在緩存對象被預(yù)定義的情況下，我們完全可以手動處理每個字段，所以在實戰(zhàn)中，推薦使用手動序列化達到上述目的，實現(xiàn)精細(xì)化的控制，達到最好的壓縮效果和最小的性能開銷。

可以參考以下msgpack的實現(xiàn)代碼，以下為測試代碼，請自行封裝更好的Packer和UnPacker等工具：

<dependency>    
    <groupId>org.msgpack</groupId>    
    <artifactId>msgpack-core</artifactId>    
    <version>0.9.3</version>
</dependency>

    public byte[] toByteArray() throws Exception {
        MessageBufferPacker packer = MessagePack.newDefaultBufferPacker();
        toByteArray(packer);
        packer.close();
        return packer.toByteArray();
    }

    public void toByteArray(MessageBufferPacker packer) throws Exception {
        if (testStatus == null) {
            packer.packNil();
        }else{
            packer.packString(testStatus);
        }

        if (userPin == null) {
            packer.packNil();
        }else{
            packer.packString(userPin);
        }

        if (investor == null) {
            packer.packNil();
        }else{
            packer.packString(investor);
        }

        if (testQueryTime == null) {
            packer.packNil();
        }else{
            packer.packLong(testQueryTime.getTime());
        }

        if (createTime == null) {
            packer.packNil();
        }else{
            packer.packLong(createTime.getTime());
        }

        if (bizInfo == null) {
            packer.packNil();
        }else{
            packer.packString(bizInfo);
        }

        if (otherTime == null) {
            packer.packNil();
        }else{
            packer.packLong(otherTime.getTime());
        }

        if (userAmount == null) {
            packer.packNil();
        }else{
            packer.packString(userAmount.toString());
        }

        if (userRate == null) {
            packer.packNil();
        }else{
            packer.packString(userRate.toString());
        }

        if (applyAmount == null) {
            packer.packNil();
        }else{
            packer.packString(applyAmount.toString());
        }

        if (type == null) {
            packer.packNil();
        }else{
            packer.packString(type);
        }

        if (checkTime == null) {
            packer.packNil();
        }else{
            packer.packString(checkTime);
        }

        if (preTestStatus == null) {
            packer.packNil();
        }else{
            packer.packString(preTestStatus);
        }
    }


    public void fromByteArray(byte[] byteArray) throws Exception {
        MessageUnpacker unpacker = MessagePack.newDefaultUnpacker(byteArray);
        fromByteArray(unpacker);
        unpacker.close();
    }

    public void fromByteArray(MessageUnpacker unpacker) throws Exception {
        if (!unpacker.tryUnpackNil()){
            this.setTestStatus(unpacker.unpackString());
        }
        if (!unpacker.tryUnpackNil()){
            this.setUserPin(unpacker.unpackString());
        }
        if (!unpacker.tryUnpackNil()){
            this.setInvestor(unpacker.unpackString());
        }
        if (!unpacker.tryUnpackNil()){
            this.setTestQueryTime(new Date(unpacker.unpackLong()));
        }
        if (!unpacker.tryUnpackNil()){
            this.setCreateTime(new Date(unpacker.unpackLong()));
        }
        if (!unpacker.tryUnpackNil()){
            this.setBizInfo(unpacker.unpackString());
        }
        if (!unpacker.tryUnpackNil()){
            this.setOtherTime(new Date(unpacker.unpackLong()));
        }
        if (!unpacker.tryUnpackNil()){
            this.setUserAmount(new BigDecimal(unpacker.unpackString()));
        }
        if (!unpacker.tryUnpackNil()){
            this.setUserRate(new BigDecimal(unpacker.unpackString()));
        }
        if (!unpacker.tryUnpackNil()){
            this.setApplyAmount(new BigDecimal(unpacker.unpackString()));
        }
        if (!unpacker.tryUnpackNil()){
            this.setType(unpacker.unpackString());
        }
        if (!unpacker.tryUnpackNil()){
            this.setCheckTime(unpacker.unpackString());
        }
        if (!unpacker.tryUnpackNil()){
            this.setPreTestStatus(unpacker.unpackString());
        }
    }