引言

前面講了系統(tǒng)中的降級熔斷設(shè)計和對 Hystrix 組件的功能了解，關(guān)于限流降級還有一個比較重要的知識點就是限流算法。

如果你面試的是電商相關(guān)公司，這一塊就顯得更加重要了，秒殺、搶購等場景，需有一種手段來限制這些場景的并發(fā)/請求量，手段就是限流。

沒有配置限流，如果遇到上游系統(tǒng)頻繁調(diào)用，會導(dǎo)致下游系統(tǒng)被擊垮。

配置了限流，但是限流算法不合理，會導(dǎo)致正常訪問被拒絕，所以限流算法不能亂用，要充分評估系統(tǒng)是否需要限流，如果要限流，流量大小如何評估。

1、面試官：

哪些場景系統(tǒng)使用了限流？為什么要使用限流？

問題分析：這個問題比較簡單，所有訪問頻繁的服務(wù)都可以做限流，相比公司內(nèi)部運營系統(tǒng)，用戶加起來不過十幾個，這種系統(tǒng)就沒必要限流了。

答：限流呀，無非就是秒殺活動，或者容易被爬蟲爬的信息類頁面，以及系統(tǒng)核心服務(wù)，這些都需要做限流，比如大眾點評首頁，因為推薦了一些高質(zhì)量店鋪信息，經(jīng)常被同行或者門戶類公司的爬蟲爬取信息，這個時候我們就要對首頁做限流操作。秒殺活動，系統(tǒng)核心高QPS服務(wù)，都需要考慮限流。

使用限流的目的就是我們不能輕易被別人干倒，要7x24h保證服務(wù)正常，同時，限流也是為了我們的下游系統(tǒng)不會輕易被我們拖垮，流量合理放行。

2、面試官：

那你了解哪些常用限流算法？

答：常用的限流算法就3種：

1.計數(shù)器方法：

固定時間窗口，比如1min/1h，設(shè)置一個計數(shù)器統(tǒng)計單位時間內(nèi)一個請求的訪問量，超過計數(shù)器最大值，可以讓請求放入等待隊列 or 直接拒接訪問，這種方法簡單粗暴，但是易造成突刺現(xiàn)象。

2.漏斗算法：

可以理解成一個固定容量的漏桶，不管流量多還是少，我都按照常量固定速率流出水滴，如果流入水滴超出了桶的容量，就讓水溢出。這種算法優(yōu)點是穩(wěn)定速率，缺點是無法面對突發(fā)流量。

3.令牌桶算法：

讓每次請求調(diào)用需要先獲取令牌，只有拿到令牌，才有機會繼續(xù)執(zhí)行，否則選擇等待可用的令牌，或者直接拒絕。優(yōu)點是系統(tǒng)發(fā)放令牌的速率是可變的，能夠面對突發(fā)流量，缺點是有點復(fù)雜。

具體使用哪種算法，要根據(jù)具體業(yè)務(wù)場景，比如系統(tǒng)時候會有突發(fā)流量，調(diào)用方重要程度等，如果調(diào)用方不是很重要，為了顧全大局，直接放調(diào)用方稍后重試。

3、面試官：

那具體這值該如何評估，說到現(xiàn)在我還是不知道限流到底要怎么設(shè)置，可以給我一點經(jīng)驗方法嗎？

(我繼續(xù)…)

對于核心服務(wù)限流的值可以通過以下方法來設(shè)置合理的值：

• 觀察評估法：系統(tǒng)總該有QPS監(jiān)控系統(tǒng)吧，看看流量環(huán)比最大值，最小值，平均值，這就是很好的參考，總不能我一拍腦袋設(shè)置一個250上去。
• 壓力測試法：找QA，半夜業(yè)務(wù)低峰期，看看系統(tǒng)能承受的最大QPS。

同時，限流還有和重試、降級、熔斷等作為組合方法一起使用。

深入分析

于具體使用的技術(shù)和工具并不是重點，還有人說我也不用Guava，也不用Thread sleep，更不用Hystrix，我用Nginx，前系統(tǒng)最前端同樣可以做限流，方案可行，條條大路通羅馬。

使用線程池實現(xiàn)：

@SpringBootTest
@RunWith(SpringRunner.class)
public class RejectTest {
    @Test
    public void testReject() {
        for (int i = 0; i < 25; ++i) {
            new Thread(() -> 
                 // do something     
                      )).start();
        }
        // 防止主線程提前結(jié)束執(zhí)行
        TimeUtils.sleep(50);
    }
}

 借助Guava實現(xiàn)：

RateLimiter rateLimiter = RateLimiter.create(20.0);
boolean token = rateLimiter.tryAcquire();
if (token) {
	System.out.println("pass");
} else {
	System.out.println("refuse");
}

總結(jié)

我認(rèn)為學(xué)習(xí)限流最重要的點是掌握解決問題的思路，至于具體使用的技術(shù)和工具并不是重點，還有人說我也不用Guava，也不用Thread sleep，更不用Hystrix，我用Nginx，前系統(tǒng)最前端同樣可以做限流，方案可行，條條大路通羅馬。

以上就是java分布式面試系統(tǒng)限流最佳實踐的詳細(xì)內(nèi)容，更多關(guān)于分布式系統(tǒng)限流面試的資料請關(guān)注腳本之家其它相關(guān)文章！

最新評論