最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

簡單實現python爬蟲功能

 更新時間:2015年12月31日 17:19:13   作者:Vigor  
這篇文章主要介紹了python實現簡單爬蟲功能的相關資料,感興趣的小伙伴們可以參考一下

       在我們日常上網瀏覽網頁的時候,經常會看到一些好看的圖片,我們就希望把這些圖片保存下載,或者用戶用來做桌面壁紙,或者用來做設計的素材。

  我們最常規(guī)的做法就是通過鼠標右鍵,選擇另存為。但有些圖片鼠標右鍵的時候并沒有另存為選項,還有辦法就通過就是通過截圖工具截取下來,但這樣就降低圖片的清晰度。好吧~!其實你很厲害的,右鍵查看頁面源代碼。

  我們可以通過python 來實現這樣一個簡單的爬蟲功能,把我們想要的代碼爬取到本地。下面就看看如何使用python來實現這樣一個功能。

一、獲取整個頁面數據 

首先我們可以先獲取要下載圖片的整個頁面信息。

getjpg.py

#coding=utf-8
import urllib

def getHtml(url):
  page = urllib.urlopen(url)
  html = page.read()
  return html

html = getHtml("http://tieba.baidu.com/p/2738151262")

print html

  Urllib模塊提供了讀取web頁面數據的接口,我們可以像讀取本地文件一樣讀取www和ftp上的數據。首先,我們定義了一個getHtml()函數:

  urllib.urlopen()方法用于打開一個URL地址。

  read()方法用于讀取URL上的數據,向getHtml()函數傳遞一個網址,并把整個頁面下載下來。執(zhí)行程序就會把整個網頁打印輸出。

二、篩選頁面中想要的數據

Python 提供了非常強大的正則表達式,我們需要先要了解一點python 正則表達式的知識才行。

假如我們百度貼吧找到了幾張漂亮的壁紙,通過到前段查看工具。找到了圖片的地址,如:src=”http://imgsrc.baidu.com/forum......jpg”pic_ext=”jpeg”

修改代碼如下:

import re
import urllib

def getHtml(url):
  page = urllib.urlopen(url)
  html = page.read()
  return html

def getImg(html):
  reg = r'src="(.+?\.jpg)" pic_ext'
  imgre = re.compile(reg)
  imglist = re.findall(imgre,html)
  return imglist   
  
html = getHtml("http://tieba.baidu.com/p/2460150866")
print getImg(html)

我們又創(chuàng)建了getImg()函數,用于在獲取的整個頁面中篩選需要的圖片連接。re模塊主要包含了正則表達式:

  •   re.compile() 可以把正則表達式編譯成一個正則表達式對象.
  •   re.findall() 方法讀取html 中包含 imgre(正則表達式)的數據.

運行腳本將得到整個頁面中包含圖片的URL地址。 

三、將頁面篩選的數據保存到本地
把篩選的圖片地址通過for循環(huán)遍歷并保存到本地,代碼如下:

#coding=utf-8
import urllib
import re

def getHtml(url):
  page = urllib.urlopen(url)
  html = page.read()
  return html

def getImg(html):
  reg = r'src="(.+?\.jpg)" pic_ext'
  imgre = re.compile(reg)
  imglist = re.findall(imgre,html)
  x = 0
  for imgurl in imglist:
    urllib.urlretrieve(imgurl,'%s.jpg' % x)
    x+=1


html = getHtml("http://tieba.baidu.com/p/2460150866")

print getImg(html)

這里的核心是用到了urllib.urlretrieve()方法,直接將遠程數據下載到本地。
通過一個for循環(huán)對獲取的圖片連接進行遍歷,為了使圖片的文件名看上去更規(guī)范,對其進行重命名,命名規(guī)則通過x變量加1。保存的位置默認為程序的存放目錄。
程序運行完成,將在目錄下看到下載到本地的文件。

結果展示:

以上就是本文的全部內容,希望對大家實現Python爬蟲功能有所幫助。

相關文章

  • Django數據庫遷移報錯InconsistentMigrationHistory

    Django數據庫遷移報錯InconsistentMigrationHistory

    最近在使用Django,學習了一下Django數據庫遷移,在執(zhí)行遷移命令時,突然報錯,本文就總結了一下原因,感興趣的小伙伴們可以參考一下
    2021-05-05
  • python中各種路徑設置的方法詳解

    python中各種路徑設置的方法詳解

    python程序想要在一個設備上去運行除了需要安裝python解釋器和相關依賴項之外,還需要將對應的文件路徑添加到環(huán)境變量path中才可以,下面這篇文章主要給大家介紹了關于python中各種路徑設置的相關資料,需要的朋友可以參考下
    2022-12-12
  • 使用python和pygame制作擋板彈球游戲

    使用python和pygame制作擋板彈球游戲

    這篇文章主要介紹了使用python和pygame制作擋板彈球游戲,本文通過實例代碼給大家介紹的非常詳細,具有一定的參考借鑒價值,需要的朋友可以參考下
    2019-12-12
  • 詳解Pytorch顯存動態(tài)分配規(guī)律探索

    詳解Pytorch顯存動態(tài)分配規(guī)律探索

    這篇文章主要介紹了Pytorch顯存動態(tài)分配規(guī)律探索,本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2020-11-11
  • Python經典題實戰(zhàn)記錄之百元買百雞

    Python經典題實戰(zhàn)記錄之百元買百雞

    有一道著名的"百錢買百雞"問題大家應該都不陌生,這篇文章主要給大家介紹了關于Python經典題實戰(zhàn)記錄之百元買百雞的相關資料,文中給出了詳細的代碼示例,需要的朋友可以參考下
    2023-12-12
  • Python文本統(tǒng)計功能之西游記用字統(tǒng)計操作示例

    Python文本統(tǒng)計功能之西游記用字統(tǒng)計操作示例

    這篇文章主要介紹了Python文本統(tǒng)計功能之西游記用字統(tǒng)計操作,結合實例形式分析了Python文本讀取、遍歷、統(tǒng)計等相關操作技巧,需要的朋友可以參考下
    2018-05-05
  • 使用Keras預訓練好的模型進行目標類別預測詳解

    使用Keras預訓練好的模型進行目標類別預測詳解

    這篇文章主要介紹了使用Keras預訓練好的模型進行目標類別預測詳解,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2020-06-06
  • python中cv2模塊如何安裝使用

    python中cv2模塊如何安裝使用

    這篇文章主要給大家介紹了關于python中cv2模塊如何安裝的相關資料,CV2指的是OpenCV2(Open?Source?Computer?Vision?Library),是一個開源的庫平臺計算機視覺庫,有很強大的圖片處理功能,可實現圖像處理和計算機視覺方面的很多通用算法,需要的朋友可以參考下
    2023-10-10
  • 淺談Python的元編程

    淺談Python的元編程

    提到元這個字,你也許會想到元數據,元數據就是描述數據本身的數據,元類就是類的類,本文的主要目的是向大家介紹這些元編程技術,并且給出實例來演示它們是怎樣定制化源代碼的行為。剛興趣的朋友可以參考一下
    2021-09-09
  • Python繪圖之自定義圖類型控件實現混合類型圖表

    Python繪圖之自定義圖類型控件實現混合類型圖表

    這篇文章主要為大家詳細介紹了Python如何新建繪圖類型控件,實現混合類型圖表,文中的示例代碼講解詳細,感興趣的小伙伴可以跟隨小編一起學習一下
    2023-08-08

最新評論

兴义市| 丽水市| 忻城县| 建平县| 鄢陵县| 紫阳县| 广平县| 敦化市| 武夷山市| 敦煌市| 巴彦淖尔市| 钟祥市| 新昌县| 永登县| 乌拉特前旗| 梅河口市| 祁门县| 福鼎市| 洪洞县| 卓尼县| 南投市| 永吉县| 峨眉山市| 郧西县| 翁牛特旗| 中卫市| 濮阳市| 乳源| 新安县| 台南县| 鹿邑县| 买车| 个旧市| 黄浦区| 广昌县| 固安县| 茶陵县| 扎兰屯市| 海丰县| 邻水| 高雄县|