快捷導(dǎo)航

python實(shí)現(xiàn)csdn全部博文下載并轉(zhuǎn)PDF

更新時(shí)間：2021年06月15日 10:25:15 作者：武亮宇

我們學(xué)習(xí)編程，在學(xué)習(xí)的時(shí)候，會(huì)有想把有用的知識(shí)點(diǎn)保存下來(lái)，我們可以把知識(shí)點(diǎn)的內(nèi)容爬下來(lái)轉(zhuǎn)變成pdf格式，方便我們拿手機(jī)可以閑時(shí)翻看，是很方便的，本文就介紹一下如何實(shí)現(xiàn)

我們學(xué)習(xí)編程，在學(xué)習(xí)的時(shí)候，會(huì)有想把有用的知識(shí)點(diǎn)保存下來(lái)，我們可以把知識(shí)點(diǎn)的內(nèi)容爬下來(lái)轉(zhuǎn)變成pdf格式，方便我們拿手機(jī)可以閑時(shí)翻看，是很方便的

先來(lái)一個(gè)單個(gè)的博文下載轉(zhuǎn)pdf格式的操作

在這里插入圖片描述

python中將html轉(zhuǎn)化為pdf的常用工具是Wkhtmltopdf工具包，在python環(huán)境下，pdfkit是這個(gè)工具包的封裝類(lèi)。如何使用pdfkit以及如何配置呢？分如下幾個(gè)步驟。

下載wkhtmltopdf安裝包，并且安裝到電腦上。
下載地址：https://wkhtmltopdf.org/downloads.html

在這里插入圖片描述

我下的是這個(gè)版本，安裝的時(shí)候要記住路徑，之后調(diào)用要用到路徑

在這里插入圖片描述

開(kāi)發(fā)工具

python
pycharm
pdfkit （pip install pdfkit）
lxml

今天目標(biāo)：博主的全部博文下載，并且轉(zhuǎn)pdf格式保存

基本思路：

1、url + headers
2、分析網(wǎng)頁(yè)： CSDN網(wǎng)頁(yè)是靜態(tài)網(wǎng)頁(yè)，請(qǐng)求獲取網(wǎng)頁(yè)源代碼
3、lxml解析獲取boke_urls, author_name
4、循環(huán)遍歷，得到 boke_url
5、xpath解析獲取文件名
6、css選擇器獲取標(biāo)簽文本的主體
7、構(gòu)造拼接html文件
8、保存html文件
9、文件的轉(zhuǎn)換

分析網(wǎng)頁(yè)： CSDN網(wǎng)頁(yè)是靜態(tài)網(wǎng)頁(yè)，請(qǐng)求獲取網(wǎng)頁(yè)源代碼
start_url =“https://i1bit.blog.csdn.net/” 為例
確定網(wǎng)址為同步加載

在這里插入圖片描述

css選擇器獲取標(biāo)簽文本的主體為代碼要點(diǎn)部分
css語(yǔ)法部分

# css選擇器獲取標(biāo)簽文本的主體
        html_css = parsel.Selector(response_2)
        html_content = html_css.css('article').get()
# 構(gòu)造拼接html文件
        html = \
            '''
                <!DOCTYPE html>
                    <html lang="en">
                    <head>
                        <meta charset="UTF-8">
                        <title>Title</title>
                    </head>
                    <body>
                        {}
                    </body>
                </html>
            '''.format(html_content)

點(diǎn)開(kāi)博主的一篇博文打開(kāi)開(kāi)發(fā)者工具

在這里插入圖片描述

# css選擇器獲取標(biāo)簽文本的主體
        html_css = parsel.Selector(response_2)
        html_content = html_css.css('article').get()
# 構(gòu)造拼接html文件
        html = \
            '''
                <!DOCTYPE html>
                    <html lang="en">
                    <head>
                        <meta charset="UTF-8">
                        <title>Title</title>
                    </head>
                    <body>
                        {}
                    </body>
                </html>
            '''.format(html_content)

文件的轉(zhuǎn)換

   config = pdfkit.configuration(wkhtmltopdf=r'這里為下載wkhtmltopdf.exe的路徑')
            pdfkit.from_file(
                第一個(gè)參數(shù)要轉(zhuǎn)變的html文件,
                第二個(gè)參數(shù)轉(zhuǎn)變后的pdf文件,
                configuration=config
            ) 
            # 上面這樣寫(xiě)清楚一點(diǎn)，也可以直接
            pdfkit.from_file(
                第一個(gè)參數(shù)要轉(zhuǎn)變的html文件,
                第二個(gè)參數(shù)轉(zhuǎn)變后的pdf文件,
            configuration=pdfkit.configuration(wkhtmltopdf=r'這里為下載wkhtmltopdf.exe的路徑')
            )

源碼展示：

import parsel, os, pdfkit
from lxml import etree
from requests_html import HTMLSession
session = HTMLSession()



def main():
    # 1、url + headers
    start_url = input(r'請(qǐng)輸入csdn博主的地址：')
    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 '
                      '(KHTML, like Gecko) Chrome/84.0.4147.105 Safari/537.36'
    }

    # 2、分析網(wǎng)頁(yè)： CSDN網(wǎng)頁(yè)是靜態(tài)網(wǎng)頁(yè)， 請(qǐng)求獲取網(wǎng)頁(yè)源代碼
    response_1 = session.get(start_url, headers=headers).text


    # 3、解析獲取boke_urls, author_name
    html_xpath_1 = etree.HTML(response_1)

    author_name = html_xpath_1.xpath(r'//*[@id="floor-user-profile_485"]/div/div[1]/div[2]/div[2]/div[1]/div[1]/text()')[0]

    boke_urls = html_xpath_1.xpath(r'//article[@class="blog-list-box"]/a/@href')


    # 4、循環(huán)遍歷，得到 boke_url
    for boke_url in boke_urls:

        # 5、請(qǐng)求
        response_2 = session.get(boke_url, headers=headers).text

        # 6、xpath解析獲取文件名
        html_xpath_2 = etree.HTML(response_2)
        file_name = html_xpath_2.xpath(r'//h1[@id="articleContentId"]/text()')[0]


        # 7、css選擇器獲取標(biāo)簽文本的主體
        html_css = parsel.Selector(response_2)
        html_content = html_css.css('article').get()

        # 8、構(gòu)造拼接html文件
        html = \
            '''
                <!DOCTYPE html>
                    <html lang="en">
                    <head>
                        <meta charset="UTF-8">
                        <title>Title</title>
                    </head>
                    <body>
                        {}
                    </body>
                </html>
            '''.format(html_content)

        # 9、創(chuàng)建兩個(gè)文件夾， 一個(gè)用來(lái)保存html 一個(gè)用來(lái)保存pdf文件
        if not os.path.exists(r'{}-html'.format(author_name)):
            os.mkdir(r'{}-html'.format(author_name))

        if not os.path.exists(r'{}-pdf'.format(author_name)):
            os.mkdir(r'{}-pdf'.format(author_name))

        # 10、保存html文件
        try:
            with open(r'{}-html/{}.html'.format(author_name, file_name), 'w', encoding='utf-8') as f:
                f.write(html)
        except Exception as e:
            print('文件名錯(cuò)誤')

        # 11、文件的轉(zhuǎn)換
        try:
            config = pdfkit.configuration(wkhtmltopdf=r'C:\Program Files\wkhtmltopdf\bin\wkhtmltopdf.exe')
            pdfkit.from_file(
                '{}-html/{}.html'.format(author_name, file_name),
                '{}-pdf/{}.pdf'.format(author_name, file_name),
                configuration=config
            )
            a = print(r'--文件下載成功：{}.pdf'.format(file_name))

        except Exception as e:
            continue


if __name__ == '__main__':
   main()

代碼操作：

在這里插入圖片描述

到此這篇關(guān)于python實(shí)現(xiàn)csdn全部博文下載并轉(zhuǎn)PDF的文章就介紹到這了,更多相關(guān)python 博文下載并轉(zhuǎn)PDF內(nèi)容請(qǐng)搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關(guān)文章希望大家以后多多支持腳本之家！

您可能感興趣的文章: