最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

node?puppeteer爬蟲爬取電影網(wǎng)站及生成pdf文檔示例

 更新時(shí)間:2023年07月24日 09:05:52   作者:小小蚊子  
這篇文章主要介紹了node?puppeteer爬蟲爬取電影網(wǎng)站及生成pdf文檔使用示例,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪

引言

利用空閑時(shí)間,學(xué)習(xí)了下puppeteer爬蟲,我也想爬取下網(wǎng)上的資源

部分api

  • puppeteer.launch(options)
參數(shù)名稱參數(shù)類型參數(shù)說明
ignoreHTTPSErrorsboolean在請(qǐng)求的過程中是否忽略 Https 報(bào)錯(cuò)信息,默認(rèn)為 false
headlessboolean是否以“無(wú)頭”的模式運(yùn)行chrome,也就是不顯示UI,默認(rèn)為true
executablePathstring可執(zhí)行文件的路徑,Puppeteer 默認(rèn)是使用它自帶的 chrome webdriver, 如果你想指定一個(gè)自己的 webdriver 路徑,可以通過這個(gè)參數(shù)設(shè)置
slowMonumber使 Puppeteer 操作減速,單位是毫秒。如果你想看看 Puppeteer 的整個(gè)工作過程,這個(gè)參數(shù)將非常有用
argsArray(String)傳遞給 chrome 實(shí)例的其他參數(shù),比如你可以設(shè)置瀏覽器窗口大小具體參數(shù)
timeoutnumber等待chrome實(shí)例啟動(dòng)的最長(zhǎng)時(shí)間,默認(rèn)是3000ms,如果傳入0,則不限制時(shí)間
dumpioboolean是否將瀏覽器錦程stdout和stderr導(dǎo)入到process.stdout和process.stderr中,默認(rèn)為false
userDataDirstring設(shè)置用戶數(shù)據(jù)目錄,默認(rèn)linux是在~/.config目錄,window 默認(rèn)在 C:Users{USER}AppDataLocalGoogleChromeUser Data, 其中 {USER} 代表當(dāng)前登錄的用戶名
envObject指定對(duì)chromium可見的環(huán)境變量,默認(rèn)為process.env
devtoolsboolean是否為每個(gè)選項(xiàng)卡自動(dòng)打開DevTools面板,這個(gè)選項(xiàng)只有當(dāng)headless設(shè)置為false的時(shí)候有效

設(shè)置瀏覽器窗口大小具體參數(shù)

browser對(duì)象

api

方法名說明
browser.close()返回一個(gè)promise對(duì)象,用于關(guān)閉瀏覽器
browser.newPage()返回一個(gè)promise對(duì)象,創(chuàng)建一個(gè)page實(shí)例

page對(duì)象

方法名說明
page.goto(url[, options])返回一個(gè)promise對(duì)象,url是目標(biāo)鏈接
page.waitForSelector()等待某個(gè)選擇器的元素加載之后,這個(gè)元素可以是異步加載的
page.evaluate(pageFunction[,args])返回一個(gè)可序列化的普通對(duì)象,pageFunction 表示要在頁(yè)面執(zhí)行的函數(shù), args 表示傳入給 pageFunction 的參數(shù)

爬取電影網(wǎng)站

const puppeteer = require('puppeteer');
/* 爬蟲的目標(biāo)鏈接地址: 豆瓣電影 */
const url = `https://movie.douban.com/tag/#/?sort=R&range=0,10&tags=`;
const sleep = time => new Promise(resolve => {
  setTimeout(resolve, time);
});
(async () => {
  console.log('crawler start to visit the target address');
  /* dumpio 是否將瀏覽器進(jìn)程stdout和stderr導(dǎo)入到process.stdout和process.stderr中 */
  const browser = await puppeteer.launch({
    args: ['--no-sandbox'],
    dumpio: false
  });
  const page = await browser.newPage();
  await page.goto(url, {
    waitUntil: 'networkidle2'
  });
  await sleep(3000);
  await page.waitForSelector('.more');
  for(let i = 0; i < 1; i++) {
    await sleep(3000);
    await page.click('.more');
  }
  const result = await page.evaluate(() => {
    let $ = window.$;
    let nodeItems = $('.list-wp a');
    let links = [];
    /* 獲取對(duì)應(yīng)的元素節(jié)點(diǎn) */
    if(nodeItems.length >= 1) {
      nodeItems.each((index, item) => {
        let elem = $(item);
        let movieId = elem.find('div').data('id');
        let title = elem.find('.title').text();
        let rate = Number(elem.find('.rate').text());
        let poster = elem.find('img').attr('src').replace('s_ratio_poster','l_ratio_poster');
        links.push({
          movieId,
          title,
          rate,
          poster,
        })
      })
    }
    return links;
  });
  browser.close();
  console.log(result)
})();

爬取網(wǎng)站內(nèi)容生成pdf文件

const puppeteer = require('puppeteer');
const url = 'https://cn.vuejs.org/v2/guide/';
(async () => {
    const browser = await puppeteer.launch();
    const page = await browser.newPage();
    await page.goto(url, { waitUntil: 'networkidle0' });
    /* 選擇你要輸出的那個(gè)PDF文件路徑,把爬取到的內(nèi)容輸出到PDF中,必須是存在的PDF,可以是空內(nèi)容,如果不是空的內(nèi)容PDF,那么會(huì)覆蓋內(nèi)容 */
    let pdfFilePath = './index.pdf';
    /* 根據(jù)你的配置選項(xiàng),我們這里選擇A4紙的規(guī)格輸出PDF,方便打印 */
    await page.pdf({
        path: pdfFilePath,
        format: 'A4',
        scale: 1,
        printBackground: true,
        landscape: false,
        displayHeaderFooter: false
    });
    browser.close();
})()

 正在努力學(xué)習(xí)中,希望你的學(xué)習(xí)有幫助

以上就是node puppeteer爬蟲爬取電影網(wǎng)站及生成pdf文檔示例的詳細(xì)內(nèi)容,更多關(guān)于node puppeteer爬蟲爬取的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!

相關(guān)文章

  • node.js中使用q.js實(shí)現(xiàn)api的promise化

    node.js中使用q.js實(shí)現(xiàn)api的promise化

    這篇文章主要介紹了node.js中使用q.js實(shí)現(xiàn)api的promise化,promise一個(gè)標(biāo)準(zhǔn),它描述了異步調(diào)用的返回結(jié)果,包括正確返回結(jié)果和錯(cuò)誤處理,需要的朋友可以參考下
    2014-09-09
  • nodejs批量修改文件編碼格式

    nodejs批量修改文件編碼格式

    本文給大家分享一段代碼,主要是解決了在項(xiàng)目中遇到的一個(gè)問題,批量將GBK編碼轉(zhuǎn)換為UTF8,非常實(shí)用,推薦給大家。
    2015-01-01
  • KOA+egg.js集成kafka消息隊(duì)列的示例

    KOA+egg.js集成kafka消息隊(duì)列的示例

    這篇文章主要介紹了KOA+egg.js集成kafka消息隊(duì)列的示例,小編覺得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過來看看吧
    2018-11-11
  • 詳解nodejs微信公眾號(hào)開發(fā)——5.素材管理接口

    詳解nodejs微信公眾號(hào)開發(fā)——5.素材管理接口

    這篇文章主要介紹了詳解nodejs微信公眾號(hào)開發(fā)——5.素材管理接口,非常具有實(shí)用價(jià)值,需要的朋友可以參考下
    2017-04-04
  • 使用nvm實(shí)現(xiàn)多個(gè)nodejs版本的快速切換

    使用nvm實(shí)現(xiàn)多個(gè)nodejs版本的快速切換

    NodeJS的升級(jí)比較快,在開發(fā)中要使用最新的版本,必須經(jīng)常升級(jí),但對(duì)于一些老項(xiàng)目可能又要使用低版本的NodeJS,使用nvm工具可以方便的管理下載的NodeJS版本,并通過命令實(shí)現(xiàn)NodeJS版本的快速切換,需要的朋友可以參考下
    2024-09-09
  • Node.js中Process.nextTick()和Process.setImmediate()的區(qū)別

    Node.js中Process.nextTick()和Process.setImmediate()的區(qū)別

    這篇文章介紹了Node.js中Process.nextTick()和Process.setImmediate()的區(qū)別,文中通過示例代碼介紹的非常詳細(xì)。對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下
    2022-07-07
  • 解決nvm i node版本問題

    解決nvm i node版本問題

    這篇文章主要介紹了解決nvm i node版本問題,具有很好的參考價(jià)值,希望對(duì)大家有所幫助,如有錯(cuò)誤或未考慮完全的地方,望不吝賜教
    2026-05-05
  • node.js生成與讀取csv文件方法詳解

    node.js生成與讀取csv文件方法詳解

    這篇文章主要介紹了node.js生成與讀取csv文件方法詳解,需要的朋友可以參考下
    2022-10-10
  • 一文詳解node.js有哪些全局對(duì)象呢

    一文詳解node.js有哪些全局對(duì)象呢

    這篇文章主要介紹了一文詳解node.js有哪些全局對(duì)象呢,文章圍繞主題展開詳細(xì)的內(nèi)容介紹,具有一定的參考價(jià)值,感興趣的小伙伴可以參考一下
    2022-09-09
  • 使用Raygun對(duì)Node.js應(yīng)用進(jìn)行錯(cuò)誤處理的方法

    使用Raygun對(duì)Node.js應(yīng)用進(jìn)行錯(cuò)誤處理的方法

    這篇文章主要介紹了使用Raygun對(duì)Node.js應(yīng)用進(jìn)行錯(cuò)誤處理的方法,Node.js是一款用于服務(wù)器端的JavaScript框架,需要的朋友可以參考下
    2015-06-06

最新評(píng)論

巴彦淖尔市| 嘉黎县| 绥棱县| 大庆市| 喀喇| 淮南市| 宝丰县| 金乡县| 兴宁市| 独山县| 宁南县| 常熟市| 大兴区| 南宁市| 普陀区| 女性| 高要市| 北安市| 思茅市| 莱芜市| 平阳县| 教育| 信丰县| 察雅县| 泗阳县| 板桥市| 印江| 孙吴县| 宜春市| 新野县| 新蔡县| 三门峡市| 景泰县| 抚松县| 镇赉县| 阳城县| 平顺县| 石屏县| 黄龙县| 湘乡市| 阿拉善左旗|