快捷導(dǎo)航

Python實(shí)戰(zhàn)之異步獲取中國天氣信息

更新時(shí)間：2022年03月07日 16:37:19 作者：Huterox

這篇文章主要介紹了如何利用Python爬蟲異步獲取天氣信息，用的API是中國天氣網(wǎng)。文中的示例代碼講解詳細(xì)，感興趣的小伙伴可以動(dòng)手試一試

前言

本來是想要更新scrapy的，但是怎么說呢，這玩意不難，看著官方文檔，基本上就能做，主要是前面的如果你的爬蟲基礎(chǔ)不好的話，這個(gè)scrapy你也玩不好，而且對于大部分的人來說安裝scrapy可能都是個(gè)問題，因?yàn)橛幸恍v史遺留的問題，畢竟是從python2過來的老框架。當(dāng)然還有個(gè)原因，我要做的東西，用不上scrapy，能夠用上scrapy如果只是做爬蟲，那必然是分布式爬蟲，但是我這里要做的可能只是一個(gè)客戶端，也就是一個(gè)spider采集軟件，所以這個(gè)scrapy沒法上。

目標(biāo)

今天我們要搞的是獲取天氣，用的API是中國天氣網(wǎng)。

BaseUrl = "http://wthrcdn.etouch.cn/weather_mini?city={}"

網(wǎng)上呢也有很多，那個(gè)直接爬取中國天氣網(wǎng)的爬蟲，但是我就是搞不懂，為啥非要去網(wǎng)頁里面然后去xpath或者正則去搞，明明用的都是同一個(gè)api出來的數(shù)據(jù)，我為啥要去頁面把人家渲染后的結(jié)果去反向解析出數(shù)據(jù)？我直接拿數(shù)據(jù)不好嘛？

請求格式

回到這里，咱們的這個(gè)接口呢，是一個(gè)get請求，然后的話，那啥只需要把城市或者編號放在city那個(gè)字段就行了，返回結(jié)果是個(gè)json，我們把這玩意變成字典后是這樣的

{'data':
 {'yesterday': 
 {'date': '5日星期六', 'high': '高溫 16℃', 'fx': '東北風(fēng)', 'low': '低溫 9℃', 'fl': '<![CDATA[3級]]>', 'type': '多云'}, 
 'city': '九江',
  'forecast': [{'date': '6日星期天', 'high': '高溫 12℃', 'fengli': '<![CDATA[3級]]>', 'low': '低溫 7℃', 'fengxiang': '東北風(fēng)', 'type': '中雨'}, 
 {'date': '7日星期一', 'high': '高溫 14℃', 'fengli': '<![CDATA[2級]]>', 'low': '低溫 7℃', 'fengxiang': '北風(fēng)', 'type': '多云'}, 
 {'date': '8日星期二', 'high': '高溫 19℃', 'fengli': '<![CDATA[2級]]>', 'low': '低溫 8℃', 'fengxiang': '東南風(fēng)', 'type': '晴'}, 
 {'date': '9日星期三', 'high': '高溫 21℃', 'fengli': '<![CDATA[2級]]>', 'low': '低溫 11℃', 'fengxiang': '東南風(fēng)', 'type': '晴'},
 {'date': '10日星期四', 'high': '高溫 23℃', 'fengli': '<![CDATA[1級]]>', 'low': '低溫 11℃', 'fengxiang': '南風(fēng)', 'type': '多云'}
 ], 
 'ganmao': '感冒多發(fā)期，適當(dāng)減少外出頻率，適量補(bǔ)充水分，適當(dāng)增減衣物。', 'wendu': '8'}, 'status': 1000, 'desc': 'OK'}

請求限制

這里不得不說一下，中國天氣網(wǎng) yyds 這個(gè)接口完全沒有限制。為啥，我要做的是獲取全國的天氣信息，包括縣城，中國大大小小幾千個(gè)縣城，而且還要分時(shí)段去分析，所以每天的請求訪問至少2w起步。如果有限制的話，咱們就得那啥反反爬了，但是通過我的測試，沒問題。

requests非異步獲取

來，我們來先做一個(gè)對比，沒有對比就沒有傷害是吧，由于非常簡單我就直接上代碼了。

import requests
from datetime import datetime

class GetWeather(object):

    urlWheather = "http://wthrcdn.etouch.cn/weather_mini?city={}"
    requests = requests
    error = {}
    today = datetime.today().day
    weekday = datetime.today().weekday()
    week = {0:"星期一",1:"星期二",2:"星期三",3:"星期四",4:"星期五",5:"星期六",6:"星期天"}

    def __getday(self)->str:
        day = str(self.today)+"日"+self.week.get(self.weekday)
        return day


    def get_today_wheather(self,city:str)->dict:

        data = self.getweather(city)
        data = data.get("data").get("forecast")
        today = self.__getday()
        for today_w in data:
            if(today_w.get("date")==today):
                return today_w

    def getweather(self,city:str,timeout:int=3)->dict:
        url = self.urlWheather.format(city)
        try:
            resp = self.requests.get(url,timeout=timeout)
            jsondata =  resp.json()
            return jsondata
        except Exception as e:
            self.error['error'] = "天氣獲取異常"
            return self.error
    def getweathers(self,citys:list,timeout:int=3):
        wheathers_data = {}
        for city in citys:
            url = self.urlWheather.format(city)
            try:
                resp = self.requests.get(url=url,timeout=timeout)
                wheather_data = resp.json()
                wheathers_data[city]=wheather_data
            except Exception as e:
                self.error['error'] = "天氣獲取異常"
                return self.error

        return wheathers_data



if __name__ == '__main__':
    getwheather = GetWeather()

    start = time.time()
    times = 1
    for i in range(5000):
        data = getwheather.get_today_wheather("九江")
        if((times%100==0)):
            print(data,"第",times,"次訪問")
        times+=1

    print("訪問",times,"次耗時(shí)",time.time()-start,"秒")

這段代碼呢，我做了一個(gè)簡單的封裝。我們來看看結(jié)果，5000次訪問花了多久

這里我5000次重復(fù)訪問的是同一個(gè)城市九江

異步獲取

這個(gè)代碼的話我是沒有封裝的，所以看起來比較亂。這里有幾個(gè)注意點(diǎn)先說一下

系統(tǒng)上限

由于這個(gè)，異步的話還是使用的操作系統(tǒng)的一個(gè)底層嘛，所以這個(gè)并發(fā)是有上限的，因?yàn)檫@個(gè)協(xié)程異步是要不斷切換的是吧。看起來有點(diǎn)像python自己的多線程，只是這個(gè)“多線程”完全是當(dāng)IO的時(shí)候才會(huì)切換，不然不會(huì)切換。所以喲啊限制一下

編碼

import time

import aiohttp
from datetime import datetime
import asyncio

BaseUrl = "http://wthrcdn.etouch.cn/weather_mini?city={}"

WeekIndex = {0:"星期一",1:"星期二",2:"星期三",3:"星期四",4:"星期五",5:"星期六",6:"星期天"}

today = datetime.today().day
day = str(today)+"日"+WeekIndex.get(datetime.today().weekday())

TIMES = 0

async def request(city:str,semaphore:asyncio.Semaphore,timeout:int = 3):
    url = BaseUrl.format(city)
    try:
        async with semaphore:
            async with aiohttp.request("GET", url) as resp:
                data = await resp.json(content_type='')
                return data
    except Exception as e:
        raise e


def getwheater(task):
    data = task.result()
    return data

def get_today_weather(task):
    global TIMES
    data = task.result() #得到返回結(jié)果

    data = data.get("data").get("forecast")

    for today_w in data:
        if (today_w.get("date") == day):
            TIMES+=1#只有IO操作的時(shí)候才會(huì)切換，所以這個(gè)++操作還是一個(gè)原子性操作
            if(TIMES%100==0):
                print(today_w,"第",TIMES,"次訪問")
            return today_w



if __name__ == '__main__':
    semaphore = asyncio.Semaphore(500)
    #操作系統(tǒng)上限是同一個(gè)時(shí)刻509/1024個(gè)并發(fā),windows509 linux 1024
    start = time.time()
    tasks = []
    for i in range(5000):
        c = request("九江",semaphore,3)
        task = asyncio.ensure_future(c)
        task.add_done_callback(get_today_weather)
        tasks.append(task)
    loop = asyncio.get_event_loop()
    loop.run_until_complete(asyncio.wait(tasks))
    print("耗時(shí)",time.time() - start,"秒")