python爬蟲用request庫處理cookie的實例講解
python爬蟲中使用urli庫可以使用opener"發(fā)送多個請求,這些請求是能共享處理cookie的,小編之前也提過python爬蟲中使用request庫會比urllib庫更加⽅便,使用使用requests也能達(dá)到共享cookie的目的,即使用request庫get方法和使用requests庫提供的session對象都可以處理。
方法一:使用request庫get方法
resp = requests.get('http://www.baidu.com/')
print(resp.cookies)
print(resp.cookies.get_dict())
方法二:使用requests庫提供的 session對象
import requests
url = "http://www.renren.com/PLogin.do"
data = {"email":"970138074@qq.com",'password':"pythonspider"}
headers = { 'User-Agent': "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36
(KHTML, like Gecko) Chrome/62.0.3202.94 Safari/537.36" }
#登錄
session = requests.session() session.post(url,data=data,headers=headers)
#訪問
resp = session.get('http://www.renren.com/256450404/profile')
print(resp.text) ```
知識點擴(kuò)展:
我們知道了requests中的session對象能夠在請求之間保持cookie,它極大地方便了我們?nèi)ナ褂胏ookie。當(dāng)我們想設(shè)置方法級別中的請求時,可以如下面示例一樣操作。
import requests s = requests.session() # 第一步:發(fā)送一個請求,用于設(shè)置請求中的cookies cookies = dict(cookies_are='cookie1') # tips: http://httpbin.org能夠用于測試http請求和響應(yīng) r1 = s.get(url='http://httpbin.org/cookies', cookies=cookies) print(r1.text) # 第二步:發(fā)送一個請求,用于再次設(shè)置請求中的cookies cookies = dict(cookies_are='cookie2') r2 = s.get(url='http://httpbin.org/cookies', cookies=cookies) print(r2.text)
運行后
# r1.text
{
"cookies": {
"cookies_are": "cookie1"
}
}
# t2.text
{
"cookies": {
"cookies_are": "cookie2"
}
}
到此這篇關(guān)于python爬蟲用request庫處理cookie的實例講解的文章就介紹到這了,更多相關(guān)python爬蟲如何使用request庫處理cookie內(nèi)容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家!
相關(guān)文章
Pandas 中的join函數(shù)應(yīng)用實現(xiàn)刪除多余的空行
這篇文章主要介紹了Pandas 中的join函數(shù)應(yīng)用實現(xiàn)刪除多余的空行,str.join也就是sequence要連接的元素序列,下面我們來看看他的作用實現(xiàn)刪除多余的空行,需要的小伙伴可以參考一下2022-02-02
解決Keyerror ''''acc'''' KeyError: ''''val_acc''''問題
這篇文章主要介紹了解決Keyerror 'acc' KeyError: 'val_acc'問題,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧2020-06-06
Python?SQLAlchemy插入日期時間時區(qū)詳解
SQLAlchemy是一個功能強大且流行的?Python?庫,它提供了一種靈活有效的與數(shù)據(jù)庫交互的方式,在本文中,我們將了解SQLAlchemy如何更新日期、時間和時區(qū)并將其插入數(shù)據(jù)庫,感興趣的可以了解下2023-09-09
python實現(xiàn)飛機(jī)大戰(zhàn)小游戲
這篇文章主要為大家詳細(xì)介紹了python實現(xiàn)飛機(jī)大戰(zhàn)游戲,文中示例代碼介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們可以參考一下2019-11-11

