最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

python編寫爬蟲小程序

 更新時(shí)間:2024年07月09日 16:29:10   投稿:hebedich  
我們可以通過python 來實(shí)現(xiàn)這樣一個(gè)簡單的爬蟲功能,把我們想要的代碼爬取到本地。下面就看看如何使用python來實(shí)現(xiàn)這樣一個(gè)功能。

起因

深夜忽然想下載一點(diǎn)電子書來擴(kuò)充一下kindle,就想起來python學(xué)得太淺,什么“裝飾器”啊、“多線程”啊都沒有學(xué)到。
想到廖雪峰大神的python教程很經(jīng)典、很著名。就想找找有木有pdf版的下載,結(jié)果居然沒找到?。?/p>

怒了,準(zhǔn)備寫個(gè)程序直接去爬廖雪峰的教程,然后再html轉(zhuǎn)成電子書。

過程

過程很有趣呢,用淺薄的python知識(shí),寫python程序,去爬python教程,來學(xué)習(xí)python。想想有點(diǎn)小激動(dòng)……
果然python很是方便,50行左右就OK了。直接貼代碼:

# coding:utf-8
import urllib

domain = 'http://www.liaoxuefeng.com'      #廖雪峰的域名
path = r'C:\Users\cyhhao2013\Desktop\temp\\'  #html要保存的路徑

# 一個(gè)html的頭文件
input = open(r'C:\Users\cyhhao2013\Desktop\0.html', 'r')
head = input.read()

# 打開python教程主界面
f = urllib.urlopen("http://www.liaoxuefeng.com/wiki/001374738125095c955c1e6d8bb493182103fac9270762a000")
home = f.read()
f.close()

# 替換所有空格回車(這樣容易好獲取url)
geturl = home.replace("\n", "")
geturl = geturl.replace(" ", "")

# 得到包含url的字符串
list = geturl.split(r'em;"><ahref="')[1:]

# 強(qiáng)迫癥犯了,一定要把第一個(gè)頁面也加進(jìn)去才完美
list.insert(0, '/wiki/001374738125095c955c1e6d8bb493182103fac9270762a000">')

# 開始遍歷url List
for li in list:
  url = li.split(r'">')[0]
  url = domain + url       #拼湊url
  print url
  f = urllib.urlopen(url)
  html = f.read()

  # 獲得title為了寫文件名
  title = html.split("<title>")[1]
  title = title.split(" - 廖雪峰的官方網(wǎng)站</title>")[0]

  # 要轉(zhuǎn)一下碼,不然加到路徑里就悲劇了
  title = title.decode('utf-8').replace("/", " ")

  # 截取正文
  html = html.split(r'<!-- block main -->')[1]
  html = html.split(r'<h4>您的支持是作者寫作最大的動(dòng)力!</h4>')[0]
  html = html.replace(r'src="', 'src="' + domain)

  # 加上頭和尾組成完整的html
  html = head + html+"</body></html>"

  # 輸出文件
  output = open(path + "%d" % list.index(li) + title + '.html', 'w')
  output.write(html)
  output.close()

簡直,人生苦短我用python??!

以上所述就是本文的全部內(nèi)容了,希望大家能夠喜歡。

相關(guān)文章

  • python繪制漢諾塔

    python繪制漢諾塔

    這篇文章主要為大家詳細(xì)介紹了python繪制漢諾塔,文中示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下
    2021-03-03
  • Python實(shí)現(xiàn)隨機(jī)生成圖片驗(yàn)證碼詳解

    Python實(shí)現(xiàn)隨機(jī)生成圖片驗(yàn)證碼詳解

    這篇文章主要介紹了如何利用Python生成隨機(jī)的圖片驗(yàn)證碼 并打印驗(yàn)證碼的值,文中的示例代碼簡潔易懂,感興趣的小伙伴可以跟隨小編一起試試
    2022-01-01
  • Python獲取本機(jī)IP/MAC多網(wǎng)卡方法示例

    Python獲取本機(jī)IP/MAC多網(wǎng)卡方法示例

    這篇文章主要為大家介紹了Python獲取本機(jī)IP/MAC多網(wǎng)卡方法示例,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪
    2023-08-08
  • Python自動(dòng)化辦公之群發(fā)郵件案例詳解

    Python自動(dòng)化辦公之群發(fā)郵件案例詳解

    我們在辦公時(shí)常常會(huì)遇到需要將郵件群發(fā)給很多客戶,這個(gè)時(shí)候如何快速完成這一任務(wù)呢?不要慌,本文將為大家提供用Python代碼解決這一問題的方法,需要的可以參考一下
    2022-02-02
  • Python中最好用的json庫orjson用法詳解

    Python中最好用的json庫orjson用法詳解

    orjson是一個(gè)用于python的快速、正確的json庫,它的基準(zhǔn)是 json最快的python庫,具有全面的單元、集成和互操作性測試,下面這篇文章主要給大家介紹了關(guān)于Python中最好用的json庫orjson用法的相關(guān)資料,需要的朋友可以參考下
    2022-06-06
  • 利用python實(shí)現(xiàn)簡單的循環(huán)購物車功能示例代碼

    利用python實(shí)現(xiàn)簡單的循環(huán)購物車功能示例代碼

    購物車對我們每位開發(fā)者來說應(yīng)該都不陌生,下面這篇文章主要給大家介紹了利用python實(shí)現(xiàn)簡單的循環(huán)購物車功能的相關(guān)資料,文中給出了詳細(xì)的示例代碼供大家參考學(xué)習(xí),需要的朋友們下面來一起看看吧。
    2017-07-07
  • 基于Python實(shí)現(xiàn)多人聊天室的示例代碼

    基于Python實(shí)現(xiàn)多人聊天室的示例代碼

    這篇文章主要為大家詳細(xì)介紹了如何基于Python實(shí)現(xiàn)多人聊天室功能,文中的示例代碼講解詳細(xì),具有一定的借鑒價(jià)值,有需要的小伙伴可以參考下
    2025-02-02
  • Python中的Logging模塊在項(xiàng)目應(yīng)用小結(jié)

    Python中的Logging模塊在項(xiàng)目應(yīng)用小結(jié)

    Python標(biāo)準(zhǔn)庫中的logging模塊為我們提供了強(qiáng)大而靈活的日志記錄功能,本文將介紹如何使用logging模塊,并探討其在Python開發(fā)中的實(shí)際應(yīng)用,感興趣的朋友一起看看吧
    2024-04-04
  • Python單鏈表的簡單實(shí)現(xiàn)方法

    Python單鏈表的簡單實(shí)現(xiàn)方法

    這篇文章主要介紹了Python單鏈表的簡單實(shí)現(xiàn)方法,包括定義所需的字段及具體實(shí)現(xiàn)代碼的分析,需要的朋友可以參考下
    2014-09-09
  • python使用tensorflow深度學(xué)習(xí)識(shí)別驗(yàn)證碼

    python使用tensorflow深度學(xué)習(xí)識(shí)別驗(yàn)證碼

    這篇文章主要介紹了python使用tensorflow深度學(xué)習(xí)識(shí)別驗(yàn)證碼,小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過來看看吧
    2018-04-04

最新評(píng)論

嘉禾县| 开封市| 金塔县| 洮南市| 泗水县| 遂平县| 贞丰县| 古浪县| 汾西县| 沽源县| 曲靖市| 桂东县| 剑川县| 乐安县| 房产| 武清区| 库车县| 石首市| 永吉县| 阿克苏市| 铜川市| 筠连县| 额济纳旗| 汝州市| 泽普县| 衡水市| 清原| 津市市| 永善县| 体育| 左云县| 亳州市| 临桂县| 鄂州市| 时尚| 琼结县| 开封县| 铁力市| 灌云县| 开原市| 卢氏县|