Node批量爬取頭條視頻并保存方法
簡(jiǎn)介
一般批量爬取視頻或者圖片的套路是,使用爬蟲獲得文件鏈接集合,然后通過(guò) writeFile 等方法逐個(gè)保存文件。然而,頭條的視頻,在需要爬取的 html 文件(服務(wù)端渲染輸出)中,無(wú)法捕捉視頻鏈接。視頻鏈接是頁(yè)面在客戶端渲染時(shí),通過(guò)某些 js 文件內(nèi)的算法或者解密方法,根據(jù)視頻的已知 key 或者 hash 值,動(dòng)態(tài)計(jì)算出來(lái)并添加到 video 標(biāo)簽的。這也是網(wǎng)站的一種反爬措施。
我們?cè)跒g覽這些頁(yè)面時(shí),通過(guò)審核元素,可以看到計(jì)算后的文件地址。然而在批量下載時(shí),逐個(gè)手動(dòng)的獲取視頻鏈接顯然不可取。開(kāi)心的是,puppeteer 提供了模擬訪問(wèn) Chrome 的功能,使我們可以爬取經(jīng)過(guò)瀏覽器渲染出來(lái)的最終頁(yè)面。
項(xiàng)目啟動(dòng)
命令
npm i npm start
Notice: 安裝 puppeteer 的過(guò)程稍慢,耐心等待。
配置文件
// 配置相關(guān)
module.exports = {
originPath: 'https://www.ixigua.com', // 頁(yè)面請(qǐng)求地址
savePath: 'D:/videoZZ' // 存放路徑
}
技術(shù)點(diǎn)
puppeteer
官方API
puppeteer 提供一個(gè)高級(jí) API 來(lái)控制 Chrome 或者 Chromium。
puppeteer 主要作用:
利用網(wǎng)頁(yè)生成 PDF、圖片
爬取SPA應(yīng)用,并生成預(yù)渲染內(nèi)容(即“SSR” 服務(wù)端渲染)
可以從網(wǎng)站抓取內(nèi)容
自動(dòng)化表單提交、UI測(cè)試、鍵盤輸入等
使用到的 API:
puppeteer.launch() 啟動(dòng)瀏覽器實(shí)例
browser.newPage() 創(chuàng)建一個(gè)新頁(yè)面
page.goto() 進(jìn)入指定網(wǎng)頁(yè)
page.screenshot() 截圖
page.waitFor() 頁(yè)面等待,可以是時(shí)間、某個(gè)元素、某個(gè)函數(shù)
page.$eval() 獲取一個(gè)指定元素,相當(dāng)于 document.querySelector
page.$$eval() 獲取某類元素,相當(dāng)于 document.querySelectorAll
page.$('#id .className') 獲取文檔中的某個(gè)元素,操作類似jQuery
代碼示例
const puppeteer = require('puppeteer');
(async () => {
const browser = await puppeteer.launch();
const page = await browser.newPage();
await page.goto('https://example.com');
await page.screenshot({path: 'example.png'});
await browser.close();
})();
視頻文件下載方法
下載視頻主方法
const downloadVideo = async video => {
// 判斷視頻文件是否已經(jīng)下載
if (!fs.existsSync(`${config.savePath}/${video.title}.mp4`)) {
await getVideoData(video.src, 'binary').then(fileData => {
console.log('下載視頻中:', video.title)
savefileToPath(video.title, fileData).then(res =>
console.log(`${res}: ${video.title}`)
)
})
} else {
console.log(`視頻文件已存在:${video.title}`)
}
}
獲取視頻數(shù)據(jù)
getVideoData (url, encoding) {
return new Promise((resolve, reject) => {
let req = http.get(url, function (res) {
let result = ''
encoding && res.setEncoding(encoding)
res.on('data', function (d) {
result += d
})
res.on('end', function () {
resolve(result)
})
res.on('error', function (e) {
reject(e)
})
})
req.end()
})
}
將視頻數(shù)據(jù)保存到本地
savefileToPath (fileName, fileData) {
let fileFullName = `${config.savePath}/${fileName}.mp4`
return new Promise((resolve, reject) => {
fs.writeFile(fileFullName, fileData, 'binary', function (err) {
if (err) {
console.log('savefileToPath error:', err)
}
resolve('已下載')
})
})
}
目標(biāo)網(wǎng)站:西瓜視頻
項(xiàng)目功能:下載頭條號(hào)【維辰財(cái)經(jīng)】下的最新20個(gè)視頻
項(xiàng)目地址:Github 地址
相關(guān)文章
node.js平臺(tái)下的mysql數(shù)據(jù)庫(kù)配置及連接
本文主要介紹了node.js平臺(tái)下的mysql數(shù)據(jù)庫(kù)配置及連接的相關(guān)知識(shí)。具有很好的參考價(jià)值,下面跟著小編一起來(lái)看下吧2017-03-03
使用Express處理請(qǐng)求和托管靜態(tài)資源方式
這篇文章主要介紹了使用Express處理請(qǐng)求和托管靜態(tài)資源方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教2022-09-09
解決Window10系統(tǒng)下Node安裝報(bào)錯(cuò)的問(wèn)題分析
今天電腦重裝了win10系統(tǒng),在安裝Node的過(guò)程中出現(xiàn)了下面的問(wèn)題,下面就和大家分享下用來(lái)解決這種問(wèn)題的小方法2016-12-12
關(guān)于node使用multer進(jìn)行文件的上傳與下載
這篇文章主要介紹了關(guān)于node使用multer進(jìn)行文件的上傳與下載,Multer是一個(gè)Node.js中間件,用于處理表單數(shù)據(jù)中的multipart/form-data類型,需要的朋友可以參考下2023-04-04
詳解node.js搭建代理服務(wù)器請(qǐng)求數(shù)據(jù)
本篇文章主要介紹了詳解node.js搭建代理服務(wù)器請(qǐng)求數(shù)據(jù),具有一定的參考價(jià)值,有興趣的可以了解一下。2017-04-04
node的EventEmitter模塊基本用法簡(jiǎn)單實(shí)現(xiàn)示例
這篇文章主要為大家介紹了node的EventEmitter模塊基本用法簡(jiǎn)單實(shí)現(xiàn)示例,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2023-09-09
如何使用?Node.js?將?MongoDB?連接到您的應(yīng)用程序
NoSQL?數(shù)據(jù)庫(kù)對(duì)于處理大量分布式數(shù)據(jù)非常有用,我們可以在這個(gè)數(shù)據(jù)庫(kù)中存儲(chǔ)信息,對(duì)其進(jìn)行管理,這篇文章主要介紹了使用?Node.js?將?MongoDB?連接到您的應(yīng)用程序,需要的朋友可以參考下2022-09-09
nodejs通過(guò)釘釘群機(jī)器人推送消息的實(shí)現(xiàn)代碼
最近在用 nodejs 寫爬蟲,之前的 nodejs 爬蟲代碼用 js 寫的,感覺(jué)可維護(hù)性太差,也沒(méi)有智能提示,于是把js改用ts(typescript)重寫一下,提升代碼質(zhì)量。接下來(lái)通過(guò)本文給大家分享nodejs通過(guò)釘釘群機(jī)器人推送消息,需要的朋友參考下吧2019-05-05
利用Node.js和MySQL實(shí)現(xiàn)創(chuàng)建API服務(wù)器
這篇文章主要為大家詳細(xì)介紹了如何使用Node.js和MySQL創(chuàng)建API服務(wù)器的步驟,這也是從前端邁向全棧的一個(gè)開(kāi)始,文中的示例代碼講解詳細(xì),感興趣的小伙伴可以了解下2024-01-01

