如何用python抓取B站數(shù)據(jù)

更新時(shí)間：2021年05月17日 11:51:48 作者：華為云開發(fā)者社區(qū)

今天介紹一個(gè)獲取B站數(shù)據(jù)的Python擴(kuò)展庫(kù)-bilibili_api，對(duì)此感興趣的同學(xué)，可以實(shí)驗(yàn)一下

概述

可以獲取的數(shù)據(jù)包括：

video-視頻模塊

user-用戶模塊

dynamic-動(dòng)態(tài)模塊

這次用“Running Man”十周年特輯的視頻，來(lái)做個(gè)獲取彈幕的Demo。

我是對(duì)比

沒有對(duì)比，就沒有傷害，就像最近的“哈工大”某學(xué)生和“浙大”某學(xué)生一樣。

這是之前獲取彈幕的過(guò)程：

1、彈幕數(shù)據(jù)接口

https://comment.bilibili.com/123072475.xml (一個(gè)固定的url地址 + 視頻的cid + .xml)

2、利用Request模塊，獲取數(shù)據(jù)

3、利用Xpath解析數(shù)據(jù)

接下來(lái)，是時(shí)候表演真正的技術(shù)了。

經(jīng)過(guò)bilibili_api的封裝，彈幕數(shù)據(jù)獲取的部分僅用了一行代碼：

danmu = video_info.get_danmaku()

相應(yīng)的獲取視頻的基本信息和評(píng)論信息也是一樣的便捷。

basic_info = video_info.get_video_info()
comments = video_info.get_comments()

快速開始

接下來(lái)，本文將用bilibili_api獲取“Running Man”十周年特輯的彈幕數(shù)據(jù)，并繪制詞云。

視頻的鏈接：

https://www.bilibili.com/video/BV1gC4y1h722

B站有av號(hào)和bv號(hào)，改版之后，在鏈接中直接顯示的是bv號(hào)，這兩個(gè)必須提供一個(gè)。

bvid是b站新的視頻唯一標(biāo)識(shí)符，由12位數(shù)字、字母組成，大小寫敏感，傳入時(shí)請(qǐng)包含頭部的“BV”

比如：“BV1gC4y1h722”

1）安裝過(guò)程

安裝需要依賴request 模塊，它是把B站數(shù)據(jù)的API封裝起來(lái)了。

通過(guò)pip安裝即可：

pip install bilibili_api

導(dǎo)入模塊

from bilibili_api import Verify
from bilibili_api.video import VideoInfo
from bilibili_api.video import Danmaku

VideoInfo類-獲取視頻的信息（彈幕、評(píng)論、投幣數(shù)量、播放量等）

Danmaku類-彈幕類，用于獲取和發(fā)送彈幕

Verify 類，可用可不用。部分視頻信息需要登錄（即需要 SESSDATA ）后才能使用（如歷史彈幕獲?。?。

對(duì)視頻進(jìn)行點(diǎn)贊、投幣等用戶操作則需要 SESSDATA 和 csrf 。

關(guān)于 SESSDATA 和 csrf 獲取的詳細(xì)方法，可參考如下鏈接：

https://github.com/Passkou/bilibili_api/wiki/SESSDATA和CSRF獲取方法（Chrome為例）

2）獲取彈幕數(shù)據(jù)

創(chuàng)建VideoInfo對(duì)象，傳入兩個(gè)參數(shù)：

bvid="BV1gC4y1h722"（視頻的BV號(hào)）

verify=verify（根據(jù)sessdata和csrf，獲取彈幕）

獲取的彈幕數(shù)據(jù)為“Danmaku類”的列表，通過(guò)遍歷，打印它的text即可

貼個(gè)代碼：

verify = Verify(sessdata="你的", csrf="你的")
video_info = VideoInfo(bvid="BV1gC4y1h722", verify=verify)

danmu = video_info.get_danmaku()
for i in danmu:
    print(i.text)

3）繪制詞云

通過(guò)jieba分詞和WorldCloud繪制詞云。

可通過(guò)WordCloud對(duì)象，傳入“背景顏色”，“背景圖”，“字體”等參數(shù)。

貼個(gè)代碼：

wc = WordCloud(
    background_color='white',
    mask=background_Image,
    font_path=r'./SourceHanSerifCN-Medium.otf',
    color_func=random_color_func,
    random_state=50,
)

word_cloud = wc.generate(words_str) # 產(chǎn)生詞云
word_cloud.to_file("rm.jpg") #保存圖片

# 顯示詞云圖片
plt.imshow(word_cloud)
plt.axis('off')
plt.show()