Python Requests爬蟲(chóng)之求取關(guān)鍵詞頁(yè)面詳解
需求:爬取搜狗首頁(yè)的頁(yè)面數(shù)據(jù)
import requestsif __name__=='__main__': #step 1:搜索Url url='https://123.sogou.com/' #step 2:發(fā)起請(qǐng)求 #get方法會(huì)返回一個(gè)響應(yīng)對(duì)象 response=requests.get(url=url) #step 3:獲取響應(yīng)數(shù)據(jù),text返回的是字符串形式的響應(yīng)數(shù)據(jù) page_text=response.text print(page_text) #step 4:持久化存儲(chǔ) with open('./sogou.html','w',encoding='utf-8') as fp: fp.write(page_text) print("爬取數(shù)據(jù)結(jié)束")import requests
if __name__=='__main__':
#step 1:搜索Url
url='https://123.sogou.com/'
#step 2:發(fā)起請(qǐng)求
#get方法會(huì)返回一個(gè)響應(yīng)對(duì)象
response=requests.get(url=url)
#step 3:獲取響應(yīng)數(shù)據(jù),text返回的是字符串形式的響應(yīng)數(shù)據(jù)
page_text=response.text
print(page_text)
#step 4:持久化存儲(chǔ)
with open('./sogou.html','w',encoding='utf-8') as fp:
fp.write(page_text)
print("爬取數(shù)據(jù)結(jié)束")

使用UA偽裝 求取關(guān)鍵詞頁(yè)面
import requests
if __name__=='__main__':
#UA偽裝:將對(duì)應(yīng)的User-Agent封裝到一個(gè)字典中
headers={
'User-Agent':'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.9 Safari/537.36'
}
url='https://www.sogou.com/sie?'
#處理url攜帶的參數(shù):封裝到字典中
kw=input('enter a word:')
param={
'query':kw
}
#對(duì)指定的url發(fā)起的請(qǐng)求對(duì)應(yīng)的url是攜帶參數(shù)的,并且請(qǐng)求過(guò)程中處理了參數(shù)
response=requests.get(url=url,params=param,headers=headers)#headers是偽裝 params輸入關(guān)鍵詞
page_text=response.text#以文本的形式輸出
fileName=kw+'.html'#存儲(chǔ)為網(wǎng)頁(yè)形式
with open(fileName,'w+',encoding='utf-8') as fp:
fp.write(page_text)#寫(xiě)入fp
print(fileName,"保存成功!!")

總結(jié)
本篇文章就到這里了,希望能夠給你帶來(lái)幫助,也希望您能夠多多關(guān)注腳本之家的更多內(nèi)容!
相關(guān)文章
Python如何利用xlrd和xlwt模塊操作Excel表格
這篇文章主要給大家介紹了關(guān)于Python如何利用xlrd和xlwt模塊操作Excel表格的相關(guān)資料,其中xlrd模塊實(shí)現(xiàn)對(duì)excel文件內(nèi)容讀取,xlwt模塊實(shí)現(xiàn)對(duì)excel文件的寫(xiě)入,需要的朋友可以參考下2022-03-03
Python+OpenCV圖片去水印的多種方案實(shí)現(xiàn)
這篇文章主要為大家總結(jié)了Python結(jié)合OpenCV的幾種常見(jiàn)的水印去除方式,簡(jiǎn)單圖片去水印效果良好,有需要的小伙伴可以跟隨小編一起了解下2025-02-02
Python Pygame實(shí)戰(zhàn)之超級(jí)炸彈人游戲的實(shí)現(xiàn)
如今的玩家們?cè)跓o(wú)聊的時(shí)候會(huì)玩些什么游戲呢?王者還是吃雞是最多的選擇。但在80、90年代的時(shí)候多是一些很簡(jiǎn)單的游戲:《超級(jí)瑪麗》、《魂斗羅》等。本文將利用Pygame制作另一個(gè)經(jīng)典游戲—炸彈人,感興趣的可以了解一下2022-03-03
詳解如何在VS Code中安裝Spire.PDF for Python
這篇文章主要為大家詳細(xì)介紹了如何在VS Code中安裝Spire.PDF for Python,文中的示例代碼簡(jiǎn)潔易懂,有需要的小伙伴可以跟隨小編一起學(xué)習(xí)一下2023-10-10
Python數(shù)據(jù)操作方法封裝類實(shí)例
這篇文章主要介紹了Python數(shù)據(jù)操作方法封裝類,結(jié)合具體實(shí)例形式分析了Python針對(duì)數(shù)據(jù)庫(kù)的連接、執(zhí)行sql語(yǔ)句、刪除、關(guān)閉等操作技巧,需要的朋友可以參考下2017-06-06
python實(shí)現(xiàn)打開(kāi)手機(jī)app并點(diǎn)擊操作
這篇文章主要介紹了python實(shí)現(xiàn)打開(kāi)手機(jī)app并點(diǎn)擊操作,本文分為兩部分一部分是打開(kāi)應(yīng)用,第二部分是調(diào)式手機(jī)連接電腦,需要的朋友可以參考下2022-04-04
Python利用sched模塊實(shí)現(xiàn)定時(shí)任務(wù)
今天我們來(lái)介紹一下Python當(dāng)中的定時(shí)任務(wù),主要用到的模塊是sched,文中的示例代碼講解詳細(xì),感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下2023-04-04
Python實(shí)現(xiàn)號(hào)碼歸屬地查詢功能
這篇文章主要為大家詳細(xì)介紹了如何利用Python實(shí)現(xiàn)對(duì)手機(jī)號(hào)碼進(jìn)行地域分析并查詢歸屬地的功能,感興趣的小伙伴可以跟隨小編一起學(xué)習(xí)一下2022-12-12

