MongoDB磁盤空間占滿導(dǎo)致數(shù)據(jù)庫(kù)被鎖定的解決方法
一、問(wèn)題
1、我在實(shí)際項(xiàng)目中,遇到一個(gè)問(wèn)題,隨著數(shù)據(jù)每天的不斷增加,導(dǎo)致mongodb的磁盤空間站滿了,數(shù)據(jù)庫(kù)被鎖了,無(wú)法使用。
2、故障表現(xiàn)
- 部署的應(yīng)用程序突然無(wú)法將數(shù)據(jù)寫入數(shù)據(jù)庫(kù),但是可以正常讀取數(shù)據(jù)。
- 管理人員通過(guò)客戶端連接數(shù)據(jù)庫(kù)進(jìn)行排查時(shí),可以寫入一條數(shù)據(jù),返回錯(cuò)誤信息:
not authorized on xxxx to execute command
3、檢查磁盤空間是否被耗盡
登錄mongodb管理控制臺(tái),查看實(shí)例的狀態(tài),會(huì)發(fā)現(xiàn)已被鎖定,并且磁盤空間占用已經(jīng)100%


優(yōu)化之前數(shù)據(jù)和磁盤情況:

二、解決方案
1、兩種方案:
(1)通過(guò)變更配置方案,擴(kuò)充磁盤空間,來(lái)提升實(shí)例的磁盤空間
(2)刪除數(shù)據(jù)庫(kù)中的數(shù)據(jù),回收磁盤碎片以提升磁盤利用率,來(lái)減少數(shù)據(jù)存儲(chǔ)空間,降低磁盤占用空間
我選擇了第二種方案,因?yàn)槲业臄?shù)據(jù)庫(kù)中,有很多非必要的數(shù)據(jù)可以刪除,可以騰出不少磁盤空間。
2、注意問(wèn)題
這里一定要注意,并不是在MongoDB實(shí)例數(shù)據(jù)庫(kù)中刪除數(shù)據(jù),就能夠釋放MongoDB實(shí)例的磁盤空間。在刪除云數(shù)據(jù)庫(kù)MongoDB實(shí)例的數(shù)據(jù)后,這些被刪除數(shù)據(jù)使用的存儲(chǔ)空間會(huì)被標(biāo)記為空閑,隨后寫入的新數(shù)據(jù)可能會(huì)被直接存儲(chǔ)到這部分空閑的存儲(chǔ)空間中,也可能會(huì)先擴(kuò)展文件的存儲(chǔ)空間再存儲(chǔ)到文件末尾。上述情況將導(dǎo)致一部分空閑的存儲(chǔ)空間不會(huì)被使用,這些未被使用的空閑存儲(chǔ)空間被稱之為磁盤碎片,磁盤碎片越多,磁盤利用率就越低。
3、背景信息
(1)執(zhí)行db.runCommand({collStats: <collection_name>}) 命令訪問(wèn)節(jié)點(diǎn)時(shí),返回結(jié)果有兩個(gè)關(guān)鍵字:size和storageSize。其中,size表示集合的邏輯存儲(chǔ)大小,storageSize表示集合的物理存儲(chǔ)大小。在執(zhí)行remove命令刪除文檔后,size的值會(huì)減少,但是,storageSize的值不一定會(huì)減少。當(dāng)storageSize大于size時(shí),表示已產(chǎn)生磁盤碎片。
(2)compact是云數(shù)據(jù)庫(kù)MongoDB的壓縮命令,執(zhí)行compact命令可以回收刪除數(shù)據(jù)后產(chǎn)生的磁盤碎片,實(shí)現(xiàn)壓縮磁盤空間的目的,從而提升磁盤利用率。
4、刪除數(shù)據(jù)庫(kù)數(shù)據(jù)
這里以表valueOpenData為例子,針對(duì)主節(jié)點(diǎn),進(jìn)行演示操作,之前已經(jīng)清理了一部分表的磁盤空間,現(xiàn)已經(jīng)不是100%。
刪除數(shù)據(jù),是不會(huì)減少磁盤空間的,這個(gè)一定要注意。
執(zhí)行刪除方案,刪除某一段時(shí)間之前的數(shù)據(jù):
db.valveOpenData.deleteMany({
"dataReadTime": {
"$lte": ISODate("2022-12-30T23:59:59Z")
}
})5、查看集合需回收的磁盤碎片空間
刪除數(shù)據(jù) 清理磁盤之前的總磁盤占用情況

刪除數(shù)據(jù)清理磁盤之前的磁盤占用空間

刪除數(shù)據(jù)清理磁盤之前的數(shù)據(jù)庫(kù)情況

執(zhí)行查看集合需回收的磁盤碎片空間語(yǔ)句
db.valveOpenData.stats().wiredTiger["block-manager"]["file bytes available for reuse"]
結(jié)果:可清理磁盤碎片 9161187328 byte

6、回收單節(jié)點(diǎn)或副本集實(shí)例的磁盤碎片
單節(jié)點(diǎn)實(shí)例只有一個(gè)StandAlone節(jié)點(diǎn),您只需要連接主節(jié)點(diǎn)(Primary節(jié)點(diǎn)),執(zhí)行compact命令回收主節(jié)點(diǎn)(Primary節(jié)點(diǎn))的磁盤碎片。
副本集實(shí)例具有多個(gè)節(jié)點(diǎn),您需要分別連接主節(jié)點(diǎn)(Primary節(jié)點(diǎn))和從節(jié)點(diǎn)(Secondary節(jié)點(diǎn)),在不同節(jié)點(diǎn)上執(zhí)行compact命令回收相應(yīng)節(jié)點(diǎn)的磁盤碎片,執(zhí)行的回收命令相同。
我這里回收的是主節(jié)點(diǎn)(Primary節(jié)點(diǎn))磁盤碎片。
執(zhí)行語(yǔ)句
db.runCommand({compact:"valveOpenData"})強(qiáng)制執(zhí)行語(yǔ)句
db.runCommand({compact:"valveOpenData",force:true})執(zhí)行成功的返回結(jié)果如下:{ "ok" : 1 } ,清理磁盤空間完成,你也可以多執(zhí)行幾次清理。
執(zhí)行查看集合需回收的磁盤碎片空間語(yǔ)句
db.valveOpenData.stats().wiredTiger["block-manager"]["file bytes available for reuse"]
結(jié)果:清理過(guò)后磁盤碎片 1072041984 byte
刪除數(shù)據(jù)清理磁盤之后的總磁盤占用情況

刪除數(shù)據(jù)清理磁盤之后的磁盤占用空間

刪除數(shù)據(jù)清理磁盤之后的數(shù)據(jù)庫(kù)情況

最終結(jié)果:一個(gè)表刪除數(shù)據(jù)、清理磁盤,清理出來(lái)差不多10G的磁盤空間
三、總結(jié)
對(duì)于不重要的數(shù)據(jù),為了防止數(shù)據(jù)量過(guò)大,占滿磁盤空間,需要定時(shí)清理過(guò)期或者不需要的數(shù)據(jù)。
最好寫個(gè)定時(shí)器定時(shí)刪除數(shù)據(jù)比較合適,但是要記得執(zhí)行回收磁盤碎片空間,只有執(zhí)行了回收后,才是真正回收了磁盤空間。
以上就是MongoDB磁盤空間占滿導(dǎo)致數(shù)據(jù)庫(kù)被鎖定的解決方法的詳細(xì)內(nèi)容,更多關(guān)于MongoDB磁盤空間占滿的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章!
相關(guān)文章
python實(shí)現(xiàn)爬蟲數(shù)據(jù)存到 MongoDB
本文給大家分享的是使用python實(shí)現(xiàn)將爬蟲爬到的數(shù)據(jù)存儲(chǔ)到mongoDB數(shù)據(jù)庫(kù)中的實(shí)例代碼,有需要的小伙伴可以參考下2016-09-09
在 Fedora 上安裝 MongoDB 服務(wù)器的方法教程
Mongo是一個(gè)高性能、開源、無(wú)模式的、面向文檔的數(shù)據(jù)庫(kù),它是最受歡迎的 NoSQL 數(shù)據(jù)庫(kù)之一。這篇文章主要介紹了在 Fedora 上安裝 MongoDB 服務(wù)器的方法,需要的朋友可以參考下2020-03-03
MongoDB Windows安裝服務(wù)方法與注意事項(xiàng)
這篇文章主要介紹了MongoDB Windows安裝服務(wù)方法與注意事項(xiàng)的相關(guān)資料,MongoDB作為一個(gè)基于分布式文件存儲(chǔ)的數(shù)據(jù)庫(kù),近兩年大受追捧。數(shù)據(jù)靈活的存取方式和高效的處理使得它廣泛用于互聯(lián)網(wǎng)應(yīng)用,需要的朋友可以參考下2016-12-12
阿里云服務(wù)器部署mongodb的詳細(xì)過(guò)程
這篇文章主要介紹了阿里云服務(wù)器部署mongodb的過(guò)程,本文給大家介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下2021-09-09
使用mongoose和bcrypt實(shí)現(xiàn)用戶密碼加密的示例
下面小編就為大家分享一篇使用mongoose和bcrypt實(shí)現(xiàn)用戶密碼加密的示例,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2018-02-02
MongoDB中實(shí)現(xiàn)多表聯(lián)查的實(shí)例教程
數(shù)據(jù)庫(kù)應(yīng)用在我們的生活中是很常見的,在編輯一些應(yīng)用以及軟件的時(shí)候都需要用到數(shù)據(jù)庫(kù)來(lái)存儲(chǔ)數(shù)據(jù),下面這篇文章主要給大家介紹了關(guān)于MongoDB中實(shí)現(xiàn)多表聯(lián)查的相關(guān)資料,需要的朋友可以參考下2022-07-07

