快捷導(dǎo)航

Nginx的流式響應(yīng)配置實現(xiàn)小結(jié)

更新時間：2024年04月29日 10:59:14 作者：技術(shù)杠精

nginx是一款自由的、開源的、高性能的HTTP服務(wù)器和反向代理服務(wù)器,本文主要介紹了Nginx的流式響應(yīng)配置實現(xiàn)小結(jié),具有一定的參考價值,感興趣的可以了解一下

Nginx的流式響應(yīng)配置

使用ChatGPT的能力在聊天時來實現(xiàn)打字機效果，因此需要服務(wù)端接口進行流式響應(yīng)，碰到了幾個問題：
1、服務(wù)端明明配置了響應(yīng)頭的Content-Type為：text/event-stream，但前端仍然不是流式接收內(nèi)容。
2、雖然前端能以流式接收服務(wù)端的響應(yīng)內(nèi)容，但內(nèi)容接收完畢，長連接并未關(guān)閉，導(dǎo)致前端還以為服務(wù)端有數(shù)據(jù)，會一直請求服務(wù)端，最后導(dǎo)致超時。

最后發(fā)現(xiàn)是nginx的問題，由于本地對接的時候并未啟用nginx，所以本地對接沒有任何問題。而線上使用nginx請求轉(zhuǎn)發(fā)，有些配置是有默認參數(shù)的，所以會失敗。因此，在這里分享一下，如果小伙們遇到同樣的問題，可以試一試。

nginx部分配置如下：

server {
  server_name xxxx;
  listen xxxx;

  location /xx/xx  {
             add_header backendIP $upstream_addr;
       
             proxy_set_header        Host            $host;      
             proxy_set_header        X-Real-IP       $remote_addr;      
             proxy_set_header        X-Forwarded-For $proxy_add_x_forwarded_for;
             
             proxy_http_version 1.1; # 設(shè)置http版本為1.1；默認為：1.0
             proxy_set_header Connection ""; # 設(shè)置Connection為長連接；默認為：no     
             proxy_cache off;  # 關(guān)閉緩存；默認是：on
             proxy_buffering off;  # 關(guān)閉代理緩沖；默認是：on
             chunked_transfer_encoding on;  # 開啟分塊傳輸編碼
             tcp_nopush on;  # 開啟TCP NOPUSH選項，禁止Nagle算法
             tcp_nodelay on;  # 開啟TCP NODELAY選項，禁止延遲ACK算法
             keepalive_timeout 60;  # 設(shè)定keep-alive超時時間為60秒  

             proxy_pass http://xxxx:xxxx;  
             proxy_redirect          off;  
             proxy_connect_timeout   15;  # 與upstream server的連接超時時間（沒有單位，最大不可以超過75s）
             proxy_send_timeout      300; # 發(fā)送請求給upstream服務(wù)器的超時時間
             proxy_read_timeout      300; # nginx會等待多長時間來獲得請求的響應(yīng)
    }
}

最主要的幾個配置：