最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Java CompletableFuture 異步超時(shí)實(shí)現(xiàn)深入研究

 更新時(shí)間:2023年02月08日 15:10:26   作者:京東云開(kāi)發(fā)者  
這篇文章主要為大家介紹了Java CompletableFuture 異步超時(shí)實(shí)現(xiàn)深入研究,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪

前言

作者:京東科技 張?zhí)熨n

JDK 8 是一次重大的版本升級(jí),新增了非常多的特性,其中之一便是 CompletableFuture。自此從 JDK 層面真正意義上的支持了基于事件的異步編程范式,彌補(bǔ)了 Future 的缺陷。

在我們的日常優(yōu)化中,最常用手段便是多線程并行執(zhí)行。這時(shí)候就會(huì)涉及到 CompletableFuture 的使用。

常見(jiàn)使用方式

下面舉例一個(gè)常見(jiàn)場(chǎng)景。

假如我們有兩個(gè) RPC 遠(yuǎn)程調(diào)用服務(wù),我們需要獲取兩個(gè) RPC 的結(jié)果后,再進(jìn)行后續(xù)邏輯處理。

public static void main(String[] args) {
    // 任務(wù) A,耗時(shí) 2 秒
    int resultA = compute(1);
    // 任務(wù) B,耗時(shí) 2 秒
    int resultB = compute(2);
    // 后續(xù)業(yè)務(wù)邏輯處理
    System.out.println(resultA + resultB);
}

可以預(yù)估到,串行執(zhí)行最少耗時(shí) 4 秒,并且 B 任務(wù)并不依賴 A 任務(wù)結(jié)果。

對(duì)于這種場(chǎng)景,我們通常會(huì)選擇并行的方式優(yōu)化,Demo 代碼如下:

public static void main(String[] args) {
    // 僅簡(jiǎn)單舉例,在生產(chǎn)代碼中可別這么寫(xiě)!
    // 統(tǒng)計(jì)耗時(shí)的函數(shù)
    time(() -> {
        CompletableFuture<Integer> result = Stream.of(1, 2)
                                                  // 創(chuàng)建異步任務(wù)
                                                  .map(x -> CompletableFuture.supplyAsync(() -> compute(x), executor))
                                                  // 聚合
                                                  .reduce(CompletableFuture.completedFuture(0), (x, y) -> x.thenCombineAsync(y, Integer::sum, executor));
        // 等待結(jié)果
        try {
            System.out.println("結(jié)果:" + result.get());
        } catch (ExecutionException | InterruptedException e) {
            System.err.println("任務(wù)執(zhí)行異常");
        }
    });
}
輸出:
[async-1]: 任務(wù)執(zhí)行開(kāi)始:1
[async-2]: 任務(wù)執(zhí)行開(kāi)始:2
[async-1]: 任務(wù)執(zhí)行完成:1
[async-2]: 任務(wù)執(zhí)行完成:2
結(jié)果:3
耗時(shí):2 秒

可以看到耗時(shí)變成了 2 秒。

存在的問(wèn)題

分析

看上去 CompletableFuture 現(xiàn)有功能可以滿足我們?cè)V求。但當(dāng)我們引入一些現(xiàn)實(shí)常見(jiàn)情況時(shí),一些潛在的不足便暴露出來(lái)了。

compute(x) 如果是一個(gè)根據(jù)入?yún)⒉樵冇脩裟愁愋蛢?yōu)惠券列表的任務(wù),我們需要查詢兩種優(yōu)惠券并組合在一起返回給上游。假如上游要求我們 2 秒內(nèi)處理完畢并返回結(jié)果,但 compute(x) 耗時(shí)卻在 0.5 秒 ~ 無(wú)窮大波動(dòng)。這時(shí)候我們就需要把耗時(shí)過(guò)長(zhǎng)的 compute(x) 任務(wù)結(jié)果放棄,僅處理在指定時(shí)間內(nèi)完成的任務(wù),盡可能保證服務(wù)可用。

那么以上代碼的耗時(shí)由耗時(shí)最長(zhǎng)的服務(wù)決定,無(wú)法滿足現(xiàn)有訴求。通常我們會(huì)使用 get(long timeout, TimeUnit unit) 來(lái)指定獲取結(jié)果的超時(shí)時(shí)間,并且我們會(huì)給 compute(x) 設(shè)置一個(gè)超時(shí)時(shí)間,達(dá)到后自動(dòng)拋異常來(lái)中斷任務(wù)。

public static void main(String[] args) {
    // 僅簡(jiǎn)單舉例,在生產(chǎn)代碼中可別這么寫(xiě)!
    // 統(tǒng)計(jì)耗時(shí)的函數(shù)
    time(() -> {
        List<CompletableFuture<Integer>> result = Stream.of(1, 2)
                                                        // 創(chuàng)建異步任務(wù),compute(x) 超時(shí)拋出異常
                                                        .map(x -> CompletableFuture.supplyAsync(() -> compute(x), executor))
                                                        .toList();
        // 等待結(jié)果
        int res = 0;
        for (CompletableFuture<Integer> future : result) {
            try {
                res += future.get(2, SECONDS);
            } catch (ExecutionException | InterruptedException | TimeoutException e) {
                System.err.println("任務(wù)執(zhí)行異常或超時(shí)");
            }
        }
        System.out.println("結(jié)果:" + res);
    });
}
輸出:
[async-2]: 任務(wù)執(zhí)行開(kāi)始:2
[async-1]: 任務(wù)執(zhí)行開(kāi)始:1
[async-1]: 任務(wù)執(zhí)行完成:1
任務(wù)執(zhí)行異?;虺瑫r(shí)
結(jié)果:1
耗時(shí):2 秒

可以看到,只要我們能夠給 compute(x) 設(shè)置一個(gè)超時(shí)時(shí)間將任務(wù)中斷,結(jié)合 getgetNow 等獲取結(jié)果的方式,就可以很好地管理整體耗時(shí)。

那么問(wèn)題也就轉(zhuǎn)變成了,如何給任務(wù)設(shè)置異步超時(shí)時(shí)間呢?

現(xiàn)有做法

當(dāng)異步任務(wù)是一個(gè) RPC 請(qǐng)求時(shí),我們可以設(shè)置一個(gè) JSF 超時(shí),以達(dá)到異步超時(shí)效果。

當(dāng)請(qǐng)求是一個(gè) R2M 請(qǐng)求時(shí),我們也可以控制 R2M 連接的最大超時(shí)時(shí)間來(lái)達(dá)到效果。

這么看好像我們都是在依賴三方中間件的能力來(lái)管理任務(wù)超時(shí)時(shí)間?那么就存在一個(gè)問(wèn)題,中間件超時(shí)控制能力有限,如果異步任務(wù)是中間件 IO 操作 + 本地計(jì)算操作怎么辦?

用 JSF 超時(shí)舉一個(gè)具體的例子,反編譯 JSF 的獲取結(jié)果代碼如下:

public V get(long timeout, TimeUnit unit) throws InterruptedException {
    // 配置的超時(shí)時(shí)間
    timeout = unit.toMillis(timeout);
    // 剩余等待時(shí)間
    long remaintime = timeout - (this.sentTime - this.genTime);
    if (remaintime <= 0L) {
        if (this.isDone()) {
            // 反序列化獲取結(jié)果
            return this.getNow();
        }
    } else if (this.await(remaintime, TimeUnit.MILLISECONDS)) {
        // 等待時(shí)間內(nèi)任務(wù)完成,反序列化獲取結(jié)果
        return this.getNow();
    }
    this.setDoneTime();
    // 超時(shí)拋出異常
    throw this.clientTimeoutException(false);
}

當(dāng)這個(gè)任務(wù)剛好卡在超時(shí)邊緣完成時(shí),這個(gè)任務(wù)的耗時(shí)時(shí)間就變成了超時(shí)時(shí)間 + 獲取結(jié)果時(shí)間。而獲取結(jié)果(反序列化)作為純本地計(jì)算操作,耗時(shí)長(zhǎng)短受 CPU 影響較大。

某些 CPU 使用率高的情況下,就會(huì)出現(xiàn)異步任務(wù)沒(méi)能觸發(fā)拋出異常中斷,導(dǎo)致我們無(wú)法準(zhǔn)確控制超時(shí)時(shí)間。對(duì)上游來(lái)說(shuō),本次請(qǐng)求全部失敗。

解決方式

JDK 9

這類問(wèn)題非常常見(jiàn),如大促場(chǎng)景,服務(wù)器 CPU 瞬間升高就會(huì)出現(xiàn)以上問(wèn)題。

那么如何解決呢?其實(shí) JDK 的開(kāi)發(fā)大佬們?cè)缬醒芯?。?JDK 9,CompletableFuture 正式提供了 orTimeoutcompleteTimeout 方法,來(lái)準(zhǔn)確實(shí)現(xiàn)異步超時(shí)控制。

public CompletableFuture<T> orTimeout(long timeout, TimeUnit unit) {
    if (unit == null)
        throw new NullPointerException();
    if (result == null)
        whenComplete(new Canceller(Delayer.delay(new Timeout(this), timeout, unit)));
    return this;
}

JDK 9 orTimeout 其實(shí)現(xiàn)原理是通過(guò)一個(gè)定時(shí)任務(wù),在給定時(shí)間之后拋出異常。如果任務(wù)在指定時(shí)間內(nèi)完成,則取消拋異常的操作。

以上代碼我們按執(zhí)行順序來(lái)看下:

首先執(zhí)行 new Timeout(this)。

static final class Timeout implements Runnable {
    final CompletableFuture<?> f;
    Timeout(CompletableFuture<?> f) { this.f = f; }
    public void run() {
        if (f != null && !f.isDone())
            // 拋出超時(shí)異常
            f.completeExceptionally(new TimeoutException());
    }
}

通過(guò)源碼可以看到,Timeout 是一個(gè)實(shí)現(xiàn) Runnable 的類,run() 方法負(fù)責(zé)給傳入的異步任務(wù)通過(guò) completeExceptionally CAS 賦值異常,將任務(wù)標(biāo)記為異常完成。

那么誰(shuí)來(lái)觸發(fā)這個(gè) run() 方法呢?我們看下 Delayer 的實(shí)現(xiàn)。

static final class Delayer {
    static ScheduledFuture<?> delay(Runnable command, long delay,
                                    TimeUnit unit) {
        // 到時(shí)間觸發(fā) command 任務(wù)
        return delayer.schedule(command, delay, unit);
    }
    static final class DaemonThreadFactory implements ThreadFactory {
        public Thread newThread(Runnable r) {
            Thread t = new Thread(r);
            t.setDaemon(true);
            t.setName("CompletableFutureDelayScheduler");
            return t;
        }
    }
    static final ScheduledThreadPoolExecutor delayer;
    static {
        (delayer = new ScheduledThreadPoolExecutor(
            1, new DaemonThreadFactory())).
            setRemoveOnCancelPolicy(true);
    }
}

Delayer 其實(shí)就是一個(gè)單例定時(shí)調(diào)度器,Delayer.delay(new Timeout(this), timeout, unit) 通過(guò) ScheduledThreadPoolExecutor 實(shí)現(xiàn)指定時(shí)間后觸發(fā) Timeout 的 run() 方法。

到這里就已經(jīng)實(shí)現(xiàn)了超時(shí)拋出異常的操作。但當(dāng)任務(wù)完成時(shí),就沒(méi)必要觸發(fā) Timeout 了。因此我們還需要實(shí)現(xiàn)一個(gè)取消邏輯。

static final class Canceller implements BiConsumer<Object, Throwable> {
    final Future<?> f;
    Canceller(Future<?> f) { this.f = f; }
    public void accept(Object ignore, Throwable ex) {
        if (ex == null && f != null && !f.isDone())
        // 3 未觸發(fā)拋異常任務(wù)則取消
            f.cancel(false);
    }
}

當(dāng)任務(wù)執(zhí)行完成,或者任務(wù)執(zhí)行異常時(shí),我們也就沒(méi)必要拋出超時(shí)異常了。因此我們可以把 delayer.schedule(command, delay, unit) 返回的定時(shí)超時(shí)任務(wù)取消,不再觸發(fā) Timeout。 當(dāng)我們的異步任務(wù)完成,并且定時(shí)超時(shí)任務(wù)未完成的時(shí)候,就是我們?nèi)∠臅r(shí)機(jī)。因此我們可以通過(guò) whenComplete(BiConsumer<? super T, ? super Throwable> action) 來(lái)完成。

Canceller 就是一個(gè) BiConsumer 的實(shí)現(xiàn)。其持有了 delayer.schedule(command, delay, unit) 返回的定時(shí)超時(shí)任務(wù),accept(Object ignore, Throwable ex) 實(shí)現(xiàn)了定時(shí)超時(shí)任務(wù)未完成后,執(zhí)行 cancel(boolean mayInterruptIfRunning) 取消任務(wù)的操作。

JDK 8

如果我們使用的是 JDK 9 或以上,我們可以直接用 JDK 的實(shí)現(xiàn)來(lái)完成異步超時(shí)操作。那么 JDK 8 怎么辦呢?

其實(shí)我們也可以根據(jù)上述邏輯簡(jiǎn)單實(shí)現(xiàn)一個(gè)工具類來(lái)輔助。

以下是我們營(yíng)銷自己的工具類以及用法,貼出來(lái)給大家作為參考,大家也可以自己寫(xiě)的更優(yōu)雅一些~

調(diào)用方式:

CompletableFutureExpandUtils.orTimeout(異步任務(wù), 超時(shí)時(shí)間, 時(shí)間單位);

工具類源碼:

package com.jd.jr.market.reduction.util;
import com.jdpay.market.common.exception.UncheckedException;
import java.util.concurrent.*;
import java.util.function.BiConsumer;
/**
 * CompletableFuture 擴(kuò)展工具
 *
 * @author zhangtianci7
 */
public class CompletableFutureExpandUtils {
    /**
     * 如果在給定超時(shí)之前未完成,則異常完成此 CompletableFuture 并拋出 {@link TimeoutException} 。
     *
     * @param timeout 在出現(xiàn) TimeoutException 異常完成之前等待多長(zhǎng)時(shí)間,以 {@code unit} 為單位
     * @param unit    一個(gè) {@link TimeUnit},結(jié)合 {@code timeout} 參數(shù),表示給定粒度單位的持續(xù)時(shí)間
     * @return 入?yún)⒌?CompletableFuture
     */
    public static <T> CompletableFuture<T> orTimeout(CompletableFuture<T> future, long timeout, TimeUnit unit) {
        if (null == unit) {
            throw new UncheckedException("時(shí)間的給定粒度不能為空");
        }
        if (null == future) {
            throw new UncheckedException("異步任務(wù)不能為空");
        }
        if (future.isDone()) {
            return future;
        }
        return future.whenComplete(new Canceller(Delayer.delay(new Timeout(future), timeout, unit)));
    }
    /**
     * 超時(shí)時(shí)異常完成的操作
     */
    static final class Timeout implements Runnable {
        final CompletableFuture<?> future;
        Timeout(CompletableFuture<?> future) {
            this.future = future;
        }
        public void run() {
            if (null != future && !future.isDone()) {
                future.completeExceptionally(new TimeoutException());
            }
        }
    }
    /**
     * 取消不需要的超時(shí)的操作
     */
    static final class Canceller implements BiConsumer<Object, Throwable> {
        final Future<?> future;
        Canceller(Future<?> future) {
            this.future = future;
        }
        public void accept(Object ignore, Throwable ex) {
            if (null == ex && null != future && !future.isDone()) {
                future.cancel(false);
            }
        }
    }
    /**
     * 單例延遲調(diào)度器,僅用于啟動(dòng)和取消任務(wù),一個(gè)線程就足夠
     */
    static final class Delayer {
        static ScheduledFuture<?> delay(Runnable command, long delay, TimeUnit unit) {
            return delayer.schedule(command, delay, unit);
        }
        static final class DaemonThreadFactory implements ThreadFactory {
            public Thread newThread(Runnable r) {
                Thread t = new Thread(r);
                t.setDaemon(true);
                t.setName("CompletableFutureExpandUtilsDelayScheduler");
                return t;
            }
        }
        static final ScheduledThreadPoolExecutor delayer;
        static {
            delayer = new ScheduledThreadPoolExecutor(1, new DaemonThreadFactory());
            delayer.setRemoveOnCancelPolicy(true);
        }
    }
}

參考資料 JEP 266: JDK 9 并發(fā)包更新提案

以上就是Java CompletableFuture 異步超時(shí)實(shí)現(xiàn)深入研究的詳細(xì)內(nèi)容,更多關(guān)于Java CompletableFuture 異步超時(shí)的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!

相關(guān)文章

  • Java實(shí)現(xiàn)解出世界最難九宮格問(wèn)題

    Java實(shí)現(xiàn)解出世界最難九宮格問(wèn)題

    這篇文章主要介紹了Java實(shí)現(xiàn)解出世界最難九宮格問(wèn)題,芬蘭數(shù)學(xué)家因卡拉花費(fèi)3個(gè)月設(shè)計(jì)出了世界上迄今難度最大的數(shù)獨(dú)游戲,而且它只有一個(gè)答案,本文使用Java實(shí)現(xiàn)解出,需要的朋友可以參考下
    2015-01-01
  • 解析Spring框架中的XmlBeanDefinitionStoreException異常情況

    解析Spring框架中的XmlBeanDefinitionStoreException異常情況

    這篇文章主要介紹了解析Spring框架中的XmlBeanDefinitionStoreException異常情況,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2024-04-04
  • 定時(shí)任務(wù)@Scheduled用法及其參數(shù)使用

    定時(shí)任務(wù)@Scheduled用法及其參數(shù)使用

    這篇文章主要介紹了定時(shí)任務(wù)@Scheduled用法及其參數(shù)使用,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2024-08-08
  • Java實(shí)現(xiàn)Huffman編碼的示例代碼

    Java實(shí)現(xiàn)Huffman編碼的示例代碼

    Huffman編碼是一種編碼方式,本文主要介紹了Java實(shí)現(xiàn)Huffman編碼的示例代碼,具有一定的參考價(jià)值,感興趣的可以了解一下
    2023-08-08
  • SpringBoot3整合Hutool-captcha實(shí)現(xiàn)圖形驗(yàn)證碼

    SpringBoot3整合Hutool-captcha實(shí)現(xiàn)圖形驗(yàn)證碼

    在整合技術(shù)框架的時(shí)候,想找一個(gè)圖形驗(yàn)證碼相關(guān)的框架,看到很多驗(yàn)證碼的maven庫(kù)不再更新了或中央倉(cāng)庫(kù)下載不下來(lái),還需要多引入依賴,后面看到了Hutool圖形驗(yàn)證碼(Hutool-captcha)中對(duì)驗(yàn)證碼的實(shí)現(xiàn),所以本文介紹了SpringBoot3整合Hutool-captcha實(shí)現(xiàn)圖形驗(yàn)證碼
    2024-11-11
  • springboot之redis cache TTL選項(xiàng)的使用

    springboot之redis cache TTL選項(xiàng)的使用

    這篇文章主要介紹了springboot之redis cache TTL選項(xiàng)的使用方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2023-07-07
  • JavaWeb使用mvc模式實(shí)現(xiàn)登錄功能

    JavaWeb使用mvc模式實(shí)現(xiàn)登錄功能

    本文主要介紹了JavaWeb使用mvc模式實(shí)現(xiàn)登錄功能,文中通過(guò)示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2022-01-01
  • springboot模塊里面調(diào)用另外一個(gè)模塊的方法實(shí)現(xiàn)

    springboot模塊里面調(diào)用另外一個(gè)模塊的方法實(shí)現(xiàn)

    在Spring-Boot項(xiàng)目開(kāi)發(fā)中,存在著本模塊的代碼需要訪問(wèn)外面模塊接口,本文就來(lái)介紹一下springboot模塊里面調(diào)用另外一個(gè)模塊的方法實(shí)現(xiàn),感興趣的可以了解一下
    2023-11-11
  • SpringBoot掃描不到Controller的解決方案

    SpringBoot掃描不到Controller的解決方案

    這篇文章主要介紹了SpringBoot掃描不到Controller的解決方案,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2021-07-07
  • Maven和MyBatis框架簡(jiǎn)單實(shí)現(xiàn)數(shù)據(jù)庫(kù)交互的示例

    Maven和MyBatis框架簡(jiǎn)單實(shí)現(xiàn)數(shù)據(jù)庫(kù)交互的示例

    本文主要介紹了Maven和MyBatis框架簡(jiǎn)單實(shí)現(xiàn)數(shù)據(jù)庫(kù)交互的示例,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2025-01-01

最新評(píng)論

伽师县| 德安县| 武陟县| 白玉县| 禹城市| 曲靖市| 南陵县| 子长县| 鸡泽县| 英山县| 抚州市| 噶尔县| 美姑县| 合作市| 松潘县| 纳雍县| 安西县| 建德市| 建阳市| 岳阳县| 县级市| 和硕县| 福海县| 阿尔山市| 南召县| 济源市| 上高县| 海伦市| 普宁市| 高唐县| 嫩江县| 黄山市| 吐鲁番市| 色达县| 砀山县| 台中市| 榕江县| 南丰县| 定兴县| 铁岭市| 雷波县|