基本介紹

NGINX通過limit_req_zone和limit_req兩條指令來實(shí)現(xiàn)速率限制。指令limit_req_zone定義了限速的參數(shù)，指令limit_req在所在的location使能定義的速率。

QPS即每秒查詢率，是對一個(gè)特定的查詢服務(wù)器在規(guī)定時(shí)間內(nèi)所處理流量多少的衡量標(biāo)準(zhǔn)。QPS = req/sec = 請求數(shù)/秒，即每秒的響應(yīng)請求數(shù)，也即是最大吞吐能力。

模塊配置具體解讀 

limit_req_zone指令設(shè)置了速率限制和共享內(nèi)存區(qū)域的參數(shù)，但它實(shí)際上并不限制請求速率。因此我們需要通過在contexts中使用limit_req指令來將其限制應(yīng)用于特定location或server塊。 

limit_req_zone

定義一個(gè)以IP為限制請求的方式，名字為req_limit_zone，開辟10M的共享內(nèi)存區(qū)域，每秒處理的速率為10個(gè)請求

limit_req_zone $binary_remote_addr zone=req_limit_zone:10m rate=10r/s;

說明 ：limit_req_zone指令通常在 HTTP 塊中定義，使其可在多個(gè)上下文中使用，它需要以下三個(gè)參數(shù)：

• key - 定義應(yīng)用限制的請求特性。示例中使用的是 Nginx 嵌入變量binary_remote_addr（二進(jìn)制客戶端地址）
• zone - 定義用于存儲每個(gè) IP 地址狀態(tài)以及被限制請求 URL 訪問頻率的共享內(nèi)存區(qū)域。保存在內(nèi)存共享區(qū)域的信息，意味著可以在 Nginx 的 worker 進(jìn)程之間共享。定義分為兩個(gè)部分：通過zone=keyword標(biāo)識區(qū)域的名字，以及冒號后面跟區(qū)域大小。16000 個(gè) IP 地址的狀態(tài)信息，大約需要 1MB，所以示例中區(qū)域可以存儲 160000 個(gè) IP 地址。
• rate - 定義最大請求速率。在示例中，速率不能超過每秒 10 個(gè)請求。Nginx 實(shí)際上以毫秒的粒度來跟蹤請求，所以速率限制相當(dāng)于每 100 毫秒 1 個(gè)請求。因?yàn)椴辉试S”突發(fā)情況”，這意味著在距離前一個(gè)請求 100 毫秒內(nèi)到達(dá)的請求將被拒絕。

limit_req_zone $binary_remote_addr zone=mylimit:10m rate=10r/s;
server {
    location /login/ {
        limit_req zone=mylimit;
        proxy_pass http://my_upstream;
    }
}

limit_req

limit_req指令來將其限制應(yīng)用于特定location或server塊。

limit_req zone=req_limit_zone burst=10 nodelay;

• limit_req zone=req_limit_zone; 每個(gè) IP 地址被限制為每秒只能請求 10 次 URL，更準(zhǔn)確地說，在距離前一個(gè)請求的 100 毫秒內(nèi)不能請求該 URL。
• limit_req zone=req_limit_zone burst=10; burst 參數(shù)定義了超出 req_limit_zone指定速率的情況下(示例中的 req_limit_zone區(qū)域，速率限制在每秒 10 個(gè)請求，或每 100 毫秒一個(gè)請求)，客戶端還能發(fā)起多少請求。距離上一個(gè)請求 100 毫秒內(nèi)到達(dá)的請求將會被放入隊(duì)列，我們將隊(duì)列大小設(shè)置為 10。

也就是說，如果從一個(gè)給定 IP 地址發(fā)送 11 個(gè)請求，Nginx 會立即將第一個(gè)請求發(fā)送到上游服務(wù)器群，然后將余下 10 個(gè)請求放在隊(duì)列中。然后每 100 毫秒轉(zhuǎn)發(fā)一個(gè)排隊(duì)的請求，只有當(dāng)傳入請求使隊(duì)列中排隊(duì)的請求數(shù)超過 10 時(shí)，Nginx 才會向客戶端返回503。

• limit_req zone=req_limit_zone burst=10 nodelay;  使用 nodelay 參數(shù)，可以實(shí)現(xiàn)無延遲的排隊(duì)；Nginx 仍將根據(jù) burst 參數(shù)分配隊(duì)列中的位置，當(dāng)一個(gè)請求到達(dá)時(shí)，只要在隊(duì)列中能分配位置，Nginx 將立即轉(zhuǎn)發(fā)這個(gè)請求。將隊(duì)列中的該位置標(biāo)記為”taken”(占據(jù))，并且不會被釋放以供另一個(gè)請求使用，直到一段時(shí)間后才會被釋放(在這個(gè)示例中是，100 毫秒后)。

limit_req zone=name [burst=number] [nodelay | delay=number];

location /login/ {
    limit_req zone=mylimit burst=20 nodelay;
    proxy_pass http://my_upstream;
}

• 上面這段配置中我們設(shè)置了burst=20，該配置定義了客戶端可以超過區(qū)域指定速率的請求數(shù)（對于我們前面定義的mylimit區(qū)域，請求速率限制為每秒 10 個(gè)請求即每 100 毫秒 1 個(gè)）。在前一個(gè)請求之后 100 毫秒內(nèi)到達(dá)的請求會被放入到隊(duì)列中，這里我們將隊(duì)列大小設(shè)置為 20。
• 說如果有22個(gè)請求同時(shí)發(fā)送過來，那么NGINX會馬上把第1個(gè)請求根據(jù)相關(guān)規(guī)則轉(zhuǎn)發(fā)給upstream服務(wù)器，然后把接下來的第2到21共計(jì)20個(gè)請求放入隊(duì)列中，接著直接返回503代碼給第22個(gè)請求，隨后的2秒時(shí)間內(nèi)，每100毫秒從隊(duì)列中取出一個(gè)請求發(fā)送給upstream服務(wù)器進(jìn)行處理。

原理：漏桶算法

漏桶算法（Leaky Bucket Algorithm）是一種用于流量控制和限流的經(jīng)典算法。其基本原理是將請求放入一個(gè)有固定容量的“桶”中，桶內(nèi)的請求以固定速率傳出。當(dāng)桶滿時(shí)，新進(jìn)入的請求將被丟棄。漏桶算法可以保證處理請求的速率恒定，從而有效防止流量激增導(dǎo)致的服務(wù)不穩(wěn)定。 

當(dāng)主機(jī)接口向網(wǎng)絡(luò)中傳送數(shù)據(jù)包時(shí)，可采取漏桶算法，使得接口輸出數(shù)據(jù)流的速率恒定。

• 輸出不規(guī)則數(shù)據(jù)流的主機(jī)類似灌水的水龍頭

• 算法中定義的漏桶類似水桶

• 不規(guī)則數(shù)據(jù)流輸入漏桶類似向漏桶中灌水

流量輸出漏桶類似漏桶漏水

接下來，詳細(xì)分解一下漏桶算法在數(shù)據(jù)包傳送過程中的實(shí)現(xiàn)原理。

1、隊(duì)列接收到準(zhǔn)備轉(zhuǎn)發(fā)的數(shù)據(jù)包。

2、隊(duì)列被調(diào)度，得到轉(zhuǎn)發(fā)機(jī)會。由于隊(duì)列配置了流量整形，隊(duì)列中的數(shù)據(jù)包首先進(jìn)入漏桶中。

3、根據(jù)數(shù)據(jù)包到達(dá)漏桶的速率與漏桶的輸出速率關(guān)系，確定數(shù)據(jù)包是否被轉(zhuǎn)發(fā)。

如果到達(dá)速率≤輸出速率，則漏桶不起作用。

如果到達(dá)速率>輸出速率，則需考慮漏桶是否能承擔(dān)這個(gè)瞬間的流量。

• 1） 若數(shù)據(jù)包到達(dá)的速率-漏桶流出的速率≤配置的漏桶突發(fā)速率，則數(shù)據(jù)包可被不延時(shí)的送出。
• 2） 若數(shù)據(jù)包到達(dá)的速率-漏桶流出的速率>配置的漏桶突發(fā)速率，則多余的數(shù)據(jù)包被存儲到漏桶中。暫存在漏桶中的數(shù)據(jù)包在不超過漏桶容量的情況下延時(shí)發(fā)出。
• 3） 若數(shù)據(jù)包到達(dá)的速率-漏桶流出的速率>配置的漏桶突發(fā)速率，且數(shù)據(jù)包的數(shù)量已經(jīng)超過漏桶的容量，則這些數(shù)據(jù)包將被丟棄。

到此這篇關(guān)于Nginx之QPS限制模塊的具體使用的文章就介紹到這了,更多相關(guān)Nginx QPS限制模塊內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

最新評論