Python?async+request與async+aiohttp實現(xiàn)異步網(wǎng)絡請求探索

更新時間：2022年10月25日 14:07:22 作者：Light2077

這篇文章主要介紹了Python?async+request與async+aiohttp實現(xiàn)異步網(wǎng)絡請求探索，文中通過示例代碼介紹的非常詳細，對大家的學習或者工作具有一定的參考學習價值，需要的朋友們下面隨著小編來一起學習吧

前言

在學習協(xié)程的時候，會有一個疑問，使用協(xié)程語法進行異步請求時，比如async + requests，會有用嗎？

其實細想一下就知道，由于requests庫是用同步的方式寫的，因此async + requests是肯定沒用的。

但是本著實踐出真知的思想，順便復習鞏固一下多線程、async、aiohttp的寫法，還是手動來驗證一下。

為了規(guī)避網(wǎng)絡波動等影響，在本地用Flask搭建一個簡易的服務器用于測試。

先放結論：

threading + requests 能夠并發(fā)請求
async + requests 不能并發(fā)請求
async + aiohttp 能并發(fā)請求

因此在進行爬蟲的時候，要想加快效率，要么使用threading + requests ，要么就使用async + aiohttp

初始環(huán)境準備

安裝測試所需要的庫

pip install flask
pip install requets
pip install aiohttp

在任意路徑創(chuàng)建一個文件夾（文件夾名隨意），例如./async_test

在該文件夾下創(chuàng)建一個空的py文件app.py用于后續(xù)搭建測試用后端。

再創(chuàng)建3個py文件分別對應3個實驗，創(chuàng)建完畢后文件目錄結構如下（此時的py文件都是空的）

|- async_test
|- app.py
|- 1_threading_requests.py
|- 2_async_requests.py
|- 3_async_aiohttp.py

搭建測試用的后端

讓每次請求的時候先沉睡2秒，再返回結果，以此來模擬網(wǎng)絡延遲。

在app.py文件中添加如下代碼

## app.py ##
from flask import Flask
import time
app = Flask(__name__)
@app.route("/")
def index():
    time.sleep(2)
    return "Hello World!"
if __name__ == '__main__':
    app.run()

在./async_test目錄下運行

python app.py

* Serving Flask app "app" (lazy loading)
* Environment: production
WARNING: This is a development server. Do not use it in a production deployment.
Use a production WSGI server instead.
* Debug mode: off
* Running on http://127.0.0.1:5000/ (Press CTRL+C to quit)

訪問 http://127.0.0.1:5000/ 延遲2秒后會看到Hello World!

完成這一步就搭建好了測試用后端

1.threading requests

在1_threading_requests.py文件中添加如下代碼

## 1_threading_requests.py ##
import time
import threading
import requests
def get(i):
    print(time.strftime('%X'), 'start', i)
    resp = requests.get('http://127.0.0.1:5000/')
    print(time.strftime('%X'), 'end', i)
start = time.perf_counter()
for i in range(4):
    threading.Thread(target=get, args=(i,)).start()
print(f'total {time.perf_counter() - start:.2f}s ')

在./async_test目錄下運行

python 1_threading_requests.py

09:23:19 start 0
09:23:19 start 1
09:23:19 start 2
09:23:19 start 3
09:23:21 end 2
09:23:21 end 0
09:23:21 end 3
09:23:21 end 1

發(fā)現(xiàn)使用多線程的寫法是能夠并發(fā)請求的。

2.async requests

在2_async_requests.py文件中添加如下代碼

## 2_async_requests.py ##
import time
import asyncio
import requests
async def get(i):
    print(time.strftime('%X'), 'start', i)
    resp = requests.get('http://127.0.0.1:5000/')
    print(time.strftime('%X'), 'end', i)
async def main():
    for i in range(4):
        asyncio.create_task(get(i))
asyncio.run(main())

在./async_test目錄下運行

python 2_async_requests.py

09:27:11 start 0
09:27:13 end 0
09:27:13 start 1
09:27:15 end 1
09:27:15 start 2
09:27:17 end 2
09:27:17 start 3
09:27:19 end 3

發(fā)現(xiàn)async+requests的寫法，代碼是順序執(zhí)行的，異步并沒有起到效果

于是將get(i)函數(shù)用aiohttp重寫

3.async aiohttp

在3_async_aiohttp.py文件中添加如下代碼

## 3_async_aiohttp.py ##
import time
import asyncio
import aiohttp
import requests
async def get(i):
    print(time.strftime('%X'), 'start', i)
    async with aiohttp.ClientSession() as session:
        async with session.get('http://127.0.0.1:5000/') as response:
            html = await response.text()
    print(time.strftime('%X'), 'end', i)
async def main():
    tasks = [asyncio.create_task(get(i)) for i in range(4)]
    await asyncio.gather(*tasks)
asyncio.run(main())

在./async_test目錄下運行