最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Python基于requests庫爬取網(wǎng)站信息

 更新時間:2020年03月02日 11:15:14   作者:江武555  
這篇文章主要介紹了python基于requests庫爬取網(wǎng)站信息,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友可以參考下

requests庫是一個簡介且簡單的處理HTTP請求的第三方庫

get()是獲取網(wǎng)頁最常用的方式,其基本使用方式如下

使用requests庫獲取HTML頁面并將其轉(zhuǎn)換成字符串后,需要進一步解析HTML頁面格式,這里我們常用的就是beautifulsoup4庫,用于解析和處理HTML和XML

下面這段代碼便是爬取百度的信息并簡單輸出百度的界面信息

import requests
from bs4 import BeautifulSoup
r=requests.get('http://www.baidu.com')
r.encoding=None
result=r.text
bs=BeautifulSoup(result,'html.parser')
print(bs.title)
print(bs.title.text)
import requests
from bs4 import BeautifulSoup

#用來解決亂碼現(xiàn)象,所以編寫爬取信息的代碼最好帶上(輸出出現(xiàn)亂碼或者UnicodeEncodeError:'gbk'codec can't encode character) 
import io   
import sys
sys.stdout = io.TextIOWrapper(sys.stdout.buffer,encoding='gb18030')

#用來防止反爬取,可以了解一下
headers={"User-Agent" : "Mozilla/5.0 (Windows; U; Windows NT 5.1; zh-CN; rv:1.9.1.6)",
  "Accept" : "text/html,application/xhtml+xml,application/xml;q=0.9,*/*;q=0.8",
  "Accept-Language" : "en-us",
  "Connection" : "keep-alive",
  "Accept-Charset" : "GB2312,utf-8;q=0.7,*;q=0.7"
}

#獲取51job網(wǎng)站的基本信息
r=requests.get('https://search.51job.com/list/000000,000000,0000,00,9,99,python,2,1.html?lang=c&stype=&postchannel=0000&workyear=99&cotype=99&degreefrom=99&jobterm=99&companysize=99&providesalary=99&lonlat=0%2C0&radius=-1&ord_field=0&confirmdate=9&fromType=&dibiaoid=0&address=&line=&specialarea=00&from=&welfare=')
r.encoding=r.apparent_encoding
result=r.text
bs=BeautifulSoup(result,'html.parser')
print(bs.prettify())

u1=bs.find_all('u1',attrs={'class':'item_con_list'})  #這部分代碼便是我們爬取的目標,51job網(wǎng)站上關(guān)于python職業(yè)的薪資
print(len(u1))
li=bs.find_all('span',attrs={'class':'t4'})
for l in li:
  print(l.text)

上面這段代碼便是爬取51job網(wǎng)站上的與python相關(guān)職業(yè)的薪資

以上就是本文的全部內(nèi)容,希望對大家的學習有所幫助,也希望大家多多支持腳本之家。

相關(guān)文章

最新評論

宜阳县| 余干县| 聂拉木县| 竹北市| 新郑市| 敦煌市| 三明市| 修文县| 屏山县| 花莲县| 伊金霍洛旗| 安泽县| 龙江县| 历史| 武胜县| 盐源县| 五莲县| 马鞍山市| 巴东县| 朝阳市| 仁寿县| 米林县| 淮阳县| 漾濞| 丰都县| 江阴市| 随州市| 曲阳县| 河南省| 崇阳县| 将乐县| 新平| 肇源县| 浙江省| 永登县| 河曲县| 右玉县| 正镶白旗| 连城县| 大安市| 岳西县|