最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

基于Redis Streams的實時消息處理實戰(zhàn)指南

 更新時間:2025年07月16日 09:12:39   作者:淺沫云歸  
這篇文章主要為大家詳細(xì)介紹了在生產(chǎn)環(huán)境中基于 Redis Streams 構(gòu)建實時消息處理的完整經(jīng)驗,包括技術(shù)選型、核心代碼示例、踩坑解決和優(yōu)化方案,希望對大家有所幫助

業(yè)務(wù)場景描述

在我們公司的電商平臺中,存在大量異步事件需要實時處理,例如用戶下單、庫存更新、支付回調(diào)等。這些事件對消息的可靠性、順序性和高吞吐量有較高要求。傳統(tǒng)的消息中間件(如Kafka、RabbitMQ)在運維成本或部署復(fù)雜度上存在一定挑戰(zhàn),在部分場景下難以滿足“輕量、低延遲、易集成” 的需求。

經(jīng)過調(diào)研和驗證,Redis 6.0+ 提供的 Streams 特性在嵌入式部署、快速上手方面具有顯著優(yōu)勢。本篇文章將分享我們在生產(chǎn)環(huán)境中基于 Redis Streams 構(gòu)建實時消息處理的完整經(jīng)驗,包括技術(shù)選型、核心代碼示例、踩坑解決和優(yōu)化方案。

技術(shù)選型過程

  • 消息可靠性:Redis Streams 支持持久化,且提供 ACK 機(jī)制和 Pending List,能夠有效追蹤消費進(jìn)度。
  • 順序消費:同一消費者組內(nèi),可保證分片流(同一 key)中消息按寫入順序被串行消費。
  • 橫向擴(kuò)展:可通過 Stream 分片(多個 Stream Key)或消費者組內(nèi)多實例并行消費提高吞吐。
  • 運營成本:Redis 已是團(tuán)隊基礎(chǔ)設(shè)施,集群部署與監(jiān)控成熟度高,二次成本低。
  • 客戶端生態(tài):Lettuce、Jedis、Redisson 等客戶端均有支持,編碼友好。

基于以上考量,最終選型 Redis Streams,落地于現(xiàn)有 Redis 集群,無需額外獨立中間件部署。

實現(xiàn)方案詳解

環(huán)境與依賴

Maven 依賴(以 Lettuce 客戶端為例):

<dependencies>
    <dependency>
        <groupId>io.lettuce</groupId>
        <artifactId>lettuce-core</artifactId>
        <version>6.1.5.RELEASE</version>
    </dependency>
    <dependency>
        <groupId>org.slf4j</groupId>
        <artifactId>slf4j-api</artifactId>
        <version>1.7.30</version>
    </dependency>
    <dependency>
        <groupId>ch.qos.logback</groupId>
        <artifactId>logback-classic</artifactId>
        <version>1.2.3</version>
    </dependency>
</dependencies>

SpringBoot 配置(application.yml):

spring:
  redis:
    host: redis-cluster-host
    port: 6379
    password: your_password
    timeout: 2000ms

流程設(shè)計

  • Producer 將事件寫入 Stream:XADD
  • 多消費者(Consumer Group)并行讀?。篨READGROUP
  • 消費確認(rèn):XACK
  • 異常消息追蹤:Pending-List 與 XCLAIM 回補處理

生產(chǎn)者實現(xiàn)

import io.lettuce.core.RedisClient;
import io.lettuce.core.api.StatefulRedisConnection;
import io.lettuce.core.api.sync.RedisCommands;
import java.util.HashMap;
import java.util.Map;

public class RedisStreamProducer {
    private RedisClient client;
    private StatefulRedisConnection<String, String> connection;
    private RedisCommands<String, String> commands;
    private static final String STREAM_KEY = "orderStream";

    public RedisStreamProducer(String uri) {
        client = RedisClient.create(uri);
        connection = client.connect();
        commands = connection.sync();
    }

    public String sendMessage(Map<String, String> message) {
        // XADD key * field value [field value ...]
        return commands.xadd(STREAM_KEY, message);
    }

    public void shutdown() {
        connection.close();
        client.shutdown();
    }

    public static void main(String[] args) {
        RedisStreamProducer producer = new RedisStreamProducer("redis://:your_password@redis-host:6379/0");
        Map<String, String> order = new HashMap<>();
        order.put("orderId", "123456");
        order.put("userId", "u7890");
        order.put("amount", "258.50");
        String messageId = producer.sendMessage(order);
        System.out.println("消息發(fā)送成功, ID=" + messageId);
        producer.shutdown();
    }
}

消費者實現(xiàn)

import io.lettuce.core.RedisClient;
import io.lettuce.core.StreamMessage;
import io.lettuce.core.api.StatefulRedisConnection;
import io.lettuce.core.api.sync.RedisCommands;
import io.lettuce.core.models.stream.Consumer;
import io.lettuce.core.models.stream.PendingMessage;

import java.time.Duration;
import java.util.List;
import java.util.Map;

public class RedisStreamConsumer {
    private RedisClient client;
    private StatefulRedisConnection<String, String> connection;
    private RedisCommands<String, String> commands;

    private static final String STREAM_KEY = "orderStream";
    private static final String GROUP_NAME = "orderGroup";
    private static final String CONSUMER_NAME = "consumer-1";

    public RedisStreamConsumer(String uri) {
        client = RedisClient.create(uri);
        connection = client.connect();
        commands = connection.sync();
        // 創(chuàng)建消費者組, 如果已創(chuàng)建可 ignore
        try {
            commands.xgroupCreate(STREAM_KEY, GROUP_NAME, "$", true);
        } catch (Exception e) {
            // Group exists
        }
    }

    public void consume() {
        while (true) {
            // 從 Pending List 先處理未 ack 的消息
            List<PendingMessage> pending = commands.xpending(STREAM_KEY, GROUP_NAME, Range.unbounded(), Limit.from(10));
            for (PendingMessage pm : pending) {
                // 重新消費
                StreamMessage<String, String> msg = commands.xclaim(
                    STREAM_KEY,
                    GROUP_NAME,
                    CONSUMER_NAME,
                    5000,
                    pm.getId());
                process(msg.getBody());
                commands.xack(STREAM_KEY, GROUP_NAME, pm.getId());
            }

            // 正常讀取新消息
            List<StreamMessage<String, String>> messages = commands.xreadgroup(
                Consumer.from(GROUP_NAME, CONSUMER_NAME),
                XReadArgs.StreamOffset.lastConsumed(STREAM_KEY));
            if (messages != null) {
                for (StreamMessage<String, String> msg : messages) {
                    process(msg.getBody());
                    commands.xack(STREAM_KEY, GROUP_NAME, msg.getId());
                }
            }

            // 輪詢間隔
            try {
                Thread.sleep(200);
            } catch (InterruptedException e) {
                Thread.currentThread().interrupt();
                break;
            }
        }
    }

    private void process(Map<String, String> body) {
        // 業(yè)務(wù)處理邏輯
        System.out.println("處理訂單: " + body);
    }

    public void shutdown() {
        connection.close();
        client.shutdown();
    }

    public static void main(String[] args) {
        RedisStreamConsumer consumer = new RedisStreamConsumer("redis://:your_password@redis-host:6379/0");
        consumer.consume();
        consumer.shutdown();
    }
}

踩過的坑與解決方案

1.消息重復(fù)消費

  • 問題:消費者處理過程中拋出異常導(dǎo)致 ack 未發(fā)送,Pending List 中累積大量消息。
  • 解決:定期掃描 Pending List,并結(jié)合 XCLAIM 將“活躍但掛起”消息重新分配給健康消費者處理;同時在業(yè)務(wù)端做好冪等控制。

2.消息積壓與內(nèi)存壓力

  • 問題:Stream 長度持續(xù)增長,Redis 實例內(nèi)存壓力上升。
  • 解決:使用 XTRIM MAXLEN ~ N 對流進(jìn)行修剪,結(jié)合業(yè)務(wù)保留時間策略,定期分批清理歷史消息。

3.消費者實例重啟后狀態(tài)丟失

  • 問題:未及時恢復(fù) Pending List 中未處理消息,導(dǎo)致部分消息長時間滯留。
  • 解決:消費者啟動時優(yōu)先處理 Pending List,再進(jìn)入正常消費流程;并通過定時任務(wù)對掛起較久的消息進(jìn)行報警或二次補償處理。

總結(jié)與最佳實踐

  • Redis Streams 適合輕量級、低運維成本的實時消息場景,結(jié)合 ACK、Pending List 能保證高可靠性。
  • 采用消費者組(Consumer Group)可支持橫向擴(kuò)展,讀寫分離與順序消費兼得。
  • 業(yè)務(wù)側(cè)必須做好冪等設(shè)計,避免消息重復(fù)帶來的副作用。
  • 對 Stream 進(jìn)行合理修剪,避免數(shù)據(jù)無節(jié)制增長導(dǎo)致內(nèi)存問題。
  • 建議結(jié)合監(jiān)控告警,對 Pending List 長度、消費者積壓情況進(jìn)行實時監(jiān)控。

到此這篇關(guān)于基于Redis Streams的實時消息處理實戰(zhàn)指南的文章就介紹到這了,更多相關(guān)Redis Streams消息處理內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!

相關(guān)文章

  • 利用Supervisor管理Redis進(jìn)程的方法教程

    利用Supervisor管理Redis進(jìn)程的方法教程

    Supervisor 是可以在類 UNIX 系統(tǒng)中進(jìn)行管理和監(jiān)控各種進(jìn)程的小型系統(tǒng)。它自帶了客戶端和服務(wù)端工具,下面這篇文章主要給大家介紹了關(guān)于利用Supervisor管理Redis進(jìn)程的相關(guān)資料,需要的朋友可以參考借鑒,下面來一起看看吧。
    2017-08-08
  • Redis?SCAN命令詳解

    Redis?SCAN命令詳解

    SCAN 命令是一個基于游標(biāo)的迭代器,每次被調(diào)用之后, 都會向用戶返回一個新的游標(biāo), 用戶在下次迭代時需要使用這個新游標(biāo)作為 SCAN 命令的游標(biāo)參數(shù), 以此來延續(xù)之前的迭代過程,這篇文章給大家介紹了Redis?SCAN命令的相關(guān)知識,感興趣的朋友一起看看吧
    2022-07-07
  • Redis如何存儲對象

    Redis如何存儲對象

    這篇文章主要介紹了Redis如何存儲對象,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教
    2022-06-06
  • redis中bind配置的詳細(xì)步驟

    redis中bind配置的詳細(xì)步驟

    本文主要介紹了redis中bind配置的詳細(xì)步驟,文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2023-07-07
  • Redis數(shù)據(jù)結(jié)構(gòu)SortedSet的底層原理解析

    Redis數(shù)據(jù)結(jié)構(gòu)SortedSet的底層原理解析

    這篇文章主要介紹了Redis數(shù)據(jù)結(jié)構(gòu)SortedSet的底層原理解析,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教
    2022-07-07
  • 虛擬機(jī)下的Redis無法訪問報錯500解決方法

    虛擬機(jī)下的Redis無法訪問報錯500解決方法

    這篇文章主要介紹了虛擬機(jī)下的Redis無法訪問,報錯500解決方法,由于我的redis是在虛擬機(jī)下安裝的,無法訪問redis的原因是因為虛擬機(jī)的ip地址和主機(jī)不同,文中通過圖文結(jié)合給出了詳細(xì)的解決方法,需要的朋友可以參考下
    2024-02-02
  • Redis中6種緩存更新策略詳解

    Redis中6種緩存更新策略詳解

    Redis作為一款高性能的內(nèi)存數(shù)據(jù)庫,已經(jīng)成為緩存層的首選解決方案,然而,使用緩存時最大的挑戰(zhàn)在于保證緩存數(shù)據(jù)與底層數(shù)據(jù)源的一致性,本文將介紹Redis中6種緩存更新策略,需要的朋友可以參考下
    2025-05-05
  • Redis中五種數(shù)據(jù)類型簡單操作

    Redis中五種數(shù)據(jù)類型簡單操作

    這篇文章主要介紹了Redis中五種數(shù)據(jù)類型簡單操作的相關(guān)資料,需要的朋友可以參考下
    2017-04-04
  • Redisson 加鎖解鎖的實現(xiàn)

    Redisson 加鎖解鎖的實現(xiàn)

    本文主要介紹了Redisson 加鎖解鎖的實現(xiàn),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧
    2022-08-08
  • 控制Redis的hash的field中的過期時間

    控制Redis的hash的field中的過期時間

    這篇文章主要介紹了控制Redis的hash的field中的過期時間問題,具有很好的參考價值,希望對大家有所幫助。如有錯誤或未考慮完全的地方,望不吝賜教
    2023-01-01

最新評論

河池市| 盘锦市| 宝应县| 彰武县| 珲春市| 平昌县| 乌鲁木齐县| 教育| 白山市| 望奎县| 集安市| 于田县| 且末县| 陇南市| 盐津县| 防城港市| 桂阳县| 商河县| 庐江县| 宁德市| 灵山县| 兴和县| 隆德县| 琼结县| 临沂市| 广宗县| 图木舒克市| 南汇区| 精河县| 拉孜县| 玉山县| 阿图什市| 布拖县| 当涂县| 宁强县| 乳山市| 连南| 新巴尔虎右旗| 高雄县| 遂溪县| 南木林县|