最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

Node批量爬取頭條視頻并保存方法

 更新時(shí)間:2018年09月20日 08:37:03   投稿:laozhang  
在本篇文章中我們給大家介紹了node爬取頭條里面的視頻,并進(jìn)行批量保存的方法,有需要的朋友可以測(cè)試以下。

簡(jiǎn)介

一般批量爬取視頻或者圖片的套路是,使用爬蟲獲得文件鏈接集合,然后通過(guò) writeFile 等方法逐個(gè)保存文件。然而,頭條的視頻,在需要爬取的 html 文件(服務(wù)端渲染輸出)中,無(wú)法捕捉視頻鏈接。視頻鏈接是頁(yè)面在客戶端渲染時(shí),通過(guò)某些 js 文件內(nèi)的算法或者解密方法,根據(jù)視頻的已知 key 或者 hash 值,動(dòng)態(tài)計(jì)算出來(lái)并添加到 video 標(biāo)簽的。這也是網(wǎng)站的一種反爬措施。

我們?cè)跒g覽這些頁(yè)面時(shí),通過(guò)審核元素,可以看到計(jì)算后的文件地址。然而在批量下載時(shí),逐個(gè)手動(dòng)的獲取視頻鏈接顯然不可取。開(kāi)心的是,puppeteer 提供了模擬訪問(wèn) Chrome 的功能,使我們可以爬取經(jīng)過(guò)瀏覽器渲染出來(lái)的最終頁(yè)面。

項(xiàng)目啟動(dòng)

命令

npm i
npm start

Notice: 安裝 puppeteer 的過(guò)程稍慢,耐心等待。

配置文件

// 配置相關(guān)
module.exports = {
 originPath: 'https://www.ixigua.com', // 頁(yè)面請(qǐng)求地址
 savePath: 'D:/videoZZ' // 存放路徑
}

技術(shù)點(diǎn)

puppeteer

官方API

puppeteer 提供一個(gè)高級(jí) API 來(lái)控制 Chrome 或者 Chromium。

puppeteer 主要作用:

利用網(wǎng)頁(yè)生成 PDF、圖片

爬取SPA應(yīng)用,并生成預(yù)渲染內(nèi)容(即“SSR” 服務(wù)端渲染)

可以從網(wǎng)站抓取內(nèi)容

自動(dòng)化表單提交、UI測(cè)試、鍵盤輸入等

使用到的 API:

puppeteer.launch() 啟動(dòng)瀏覽器實(shí)例

browser.newPage() 創(chuàng)建一個(gè)新頁(yè)面

page.goto() 進(jìn)入指定網(wǎng)頁(yè)

page.screenshot() 截圖

page.waitFor() 頁(yè)面等待,可以是時(shí)間、某個(gè)元素、某個(gè)函數(shù)

page.$eval() 獲取一個(gè)指定元素,相當(dāng)于 document.querySelector

page.$$eval() 獲取某類元素,相當(dāng)于 document.querySelectorAll

page.$('#id .className') 獲取文檔中的某個(gè)元素,操作類似jQuery

代碼示例

const puppeteer = require('puppeteer');
 
(async () => {
 const browser = await puppeteer.launch();
 const page = await browser.newPage();
 await page.goto('https://example.com');
 await page.screenshot({path: 'example.png'});
 
 await browser.close();
})();

視頻文件下載方法

下載視頻主方法

const downloadVideo = async video => {
 // 判斷視頻文件是否已經(jīng)下載
 if (!fs.existsSync(`${config.savePath}/${video.title}.mp4`)) {
 await getVideoData(video.src, 'binary').then(fileData => {
  console.log('下載視頻中:', video.title)
  savefileToPath(video.title, fileData).then(res =>
  console.log(`${res}: ${video.title}`)
  )
 })
 } else {
 console.log(`視頻文件已存在:${video.title}`)
 }
}

獲取視頻數(shù)據(jù)

getVideoData (url, encoding) {
 return new Promise((resolve, reject) => {
 let req = http.get(url, function (res) {
  let result = ''
  encoding && res.setEncoding(encoding)
  res.on('data', function (d) {
  result += d
  })
  res.on('end', function () {
  resolve(result)
  })
  res.on('error', function (e) {
  reject(e)
  })
 })
 req.end()
 })
}

將視頻數(shù)據(jù)保存到本地

savefileToPath (fileName, fileData) {
 let fileFullName = `${config.savePath}/${fileName}.mp4`
 return new Promise((resolve, reject) => {
 fs.writeFile(fileFullName, fileData, 'binary', function (err) {
  if (err) {
  console.log('savefileToPath error:', err)
  }
  resolve('已下載')
 })
 })
}

目標(biāo)網(wǎng)站:西瓜視頻

項(xiàng)目功能:下載頭條號(hào)【維辰財(cái)經(jīng)】下的最新20個(gè)視頻

項(xiàng)目地址:Github 地址

相關(guān)文章

最新評(píng)論

分宜县| 中江县| 织金县| 密山市| 丹阳市| 星座| 辽阳市| 邯郸市| 吴忠市| 华亭县| 连平县| 沁水县| 崇左市| 乌鲁木齐市| 易门县| 江源县| 宁武县| 马公市| 将乐县| 兴安盟| 武平县| 彭山县| 苏尼特左旗| 和平区| 盘山县| 东乌珠穆沁旗| 米脂县| 汽车| 静海县| 平昌县| 东城区| 西青区| 新泰市| 汾西县| 明溪县| 平顺县| 沂南县| 耿马| 昭觉县| 连平县| 靖州|