詳解Python?Requests庫(kù)中的重試策略
網(wǎng)絡(luò)請(qǐng)求由于各種原因可能會(huì)失敗,例如網(wǎng)絡(luò)波動(dòng)、服務(wù)暫時(shí)不可達(dá)等。為了增強(qiáng)客戶端的健壯性,實(shí)現(xiàn)請(qǐng)求的自動(dòng)重試是一個(gè)常見(jiàn)的做法。在Python中,requests庫(kù)是處理HTTP請(qǐng)求的標(biāo)準(zhǔn)工具之一。然而,requests本身并不直接提供重試機(jī)制,這需要借助urllib3庫(kù)中的Retry類(lèi)來(lái)實(shí)現(xiàn)。
本文將介紹如何在requests中實(shí)現(xiàn)請(qǐng)求的自動(dòng)重試。
1. 重試的必要性
在分布式系統(tǒng)中,服務(wù)間的通信可能會(huì)由于各種原因失敗。而自動(dòng)重試機(jī)制能夠提高系統(tǒng)的可靠性和容錯(cuò)能力。合理的重試策略可以減少暫時(shí)性故障導(dǎo)致的請(qǐng)求失敗。
2. 實(shí)現(xiàn)重試的基本原理
在requests中實(shí)現(xiàn)重試通常需要以下步驟:
- 導(dǎo)入必要的模塊。
- 創(chuàng)建一個(gè)
HTTPAdapter實(shí)例。 - 在
HTTPAdapter上配置Retry策略。 - 將配置好的
HTTPAdapter掛載到Session對(duì)象上。 - 使用配置了重試的Session對(duì)象發(fā)送請(qǐng)求。
3. 使用urllib3實(shí)現(xiàn)重試
以下是一個(gè)具體的示例,展示如何為requests請(qǐng)求添加重試邏輯。
3.1. 導(dǎo)入模塊
首先,需要導(dǎo)入requests庫(kù)和urllib3的Retry類(lèi)。
import requests from requests.adapters import HTTPAdapter from urllib3.util import Retry
3.2. 配置重試策略
使用Retry類(lèi)來(lái)定義重試策略。這里可以指定重試次數(shù)、狀態(tài)碼集合、異常類(lèi)型等。
retries = Retry(
total=5, # 總重試次數(shù)
backoff_factor=1, # 指數(shù)退避因子
status_forcelist=[500, 502, 503, 504], # 指定哪些狀態(tài)碼觸發(fā)重試
allowed_methods=frozenset(['GET', 'POST']), # 允許重試的HTTP方法
)
3.3. 創(chuàng)建HTTPAdapter并配置重試
創(chuàng)建一個(gè)HTTPAdapter實(shí)例,并設(shè)置重試策略。
adapter = HTTPAdapter(max_retries=retries)
3.4. 掛載Adapter到Session
創(chuàng)建Session對(duì)象,并為HTTP和HTTPS請(qǐng)求掛載上面創(chuàng)建的adapter。
pythonCopy code
session = requests.Session()
session.mount('http://', adapter)
session.mount('https://', adapter)
3.5. 發(fā)送請(qǐng)求
使用配置了重試策略的session對(duì)象發(fā)送請(qǐng)求。
url = "http://httpbin.org/status/500" response = session.get(url)
4. 示例:請(qǐng)求一個(gè)可能返回錯(cuò)誤的服務(wù)
以下是一個(gè)完整的示例,包括錯(cuò)誤處理。
import requests
from requests.adapters import HTTPAdapter
from urllib3.util.retry import Retry
def request_with_retry(url, max_retries=5, backoff_factor=1, status_forcelist=None):
if status_forcelist is None:
status_forcelist = [500, 502, 503, 504]
session = requests.Session()
retries = Retry(total=max_retries,
backoff_factor=backoff_factor,
status_forcelist=status_forcelist,
method_whitelist=["GET", "POST"])
adapter = HTTPAdapter(max_retries=retries)
session.mount('http://', adapter)
session.mount('https://', adapter)
try:
response = session.get(url)
response.raise_for_status() # 如果請(qǐng)求返回的是4XX, 5XX響應(yīng)碼,將引發(fā)HTTPError異常
return response
except requests.exceptions.HTTPError as e:
print(f"HTTP Error: {e}")
except requests.exceptions.ConnectionError as e:
print(f"Connection Error: {e}")
except requests.exceptions.Timeout as e:
print(f"Timeout Error: {e}")
except requests.exceptions.RequestException as e:
print(f"Request Exception: {e}")
url = "http://httpbin.org/status/500"
response = request_with_retry(url)
if response:
print(response.text)
在這個(gè)示例中,如果服務(wù)響應(yīng)500系列錯(cuò)誤,或者連接異常,request_with_retry函數(shù)將嘗試最多五次的請(qǐng)求。
結(jié)論
在Python中使用requests庫(kù)配合urllib3的Retry類(lèi),可以靈活地實(shí)現(xiàn)HTTP請(qǐng)求的自動(dòng)重試機(jī)制。這樣可以顯著提高應(yīng)用程序處理網(wǎng)絡(luò)波動(dòng)的能力。在微服務(wù)、API調(diào)用等場(chǎng)景下,這種模式尤為重要。需要注意的是,應(yīng)當(dāng)謹(jǐn)慎選擇重試的次數(shù)和策略,以防止過(guò)多的重試導(dǎo)致服務(wù)負(fù)載過(guò)重。
到此這篇關(guān)于詳解Python Requests庫(kù)中的重試策略的文章就介紹到這了,更多相關(guān)Python Requests重試策略內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Python3.7+tkinter實(shí)現(xiàn)查詢界面功能
這篇文章主要介紹了Python3.7+tkinter實(shí)現(xiàn)查詢界面功能,本文通過(guò)實(shí)例代碼給大家介紹的非常詳細(xì),具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2019-12-12
python實(shí)現(xiàn)簡(jiǎn)單點(diǎn)對(duì)點(diǎn)(p2p)聊天
這篇文章主要為大家詳細(xì)介紹了python實(shí)現(xiàn)簡(jiǎn)單點(diǎn)對(duì)點(diǎn)p2p聊天,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2017-09-09
Django使用httpresponse返回用戶頭像實(shí)例代碼
這篇文章主要介紹了Django使用httpresponse返回用戶頭像實(shí)例代碼2018-01-01
Python實(shí)現(xiàn)多線程抓取網(wǎng)頁(yè)功能實(shí)例詳解
這篇文章主要介紹了Python實(shí)現(xiàn)多線程抓取網(wǎng)頁(yè)功能,結(jié)合具體實(shí)例形式詳細(xì)分析了Python多線程編程的相關(guān)操作技巧與注意事項(xiàng),并附帶demo實(shí)例給出了多線程抓取網(wǎng)頁(yè)的實(shí)現(xiàn)方法,需要的朋友可以參考下2017-06-06
基于Python實(shí)現(xiàn)2種反轉(zhuǎn)鏈表方法代碼實(shí)例
這篇文章主要介紹了基于Python實(shí)現(xiàn)2種反轉(zhuǎn)鏈表方法代碼實(shí)例,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友可以參考下2020-07-07
Python可視化Matplotlib折線圖plot用法詳解
這篇文章主要為大家介紹了Python可視化中Matplotlib折線圖plot用法的詳解,有需要的朋友可以借鑒參考下,希望可以有所幫助,祝大家多多進(jìn)步2021-09-09

