最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

MongoDB自動刪除過期數據的方法(TTL索引)

 更新時間:2018年11月06日 10:43:04   作者:逃跑的肉丸  
這篇文章主要給大家介紹了關于MongoDB自動刪除過期數據(TTL索引)的相關資料,文中通過示例代碼介紹的非常詳細,對大家的學習或工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧

前序:

最近由于公司業(yè)務需求,對于3個月前的過期數據需要進行刪除動作,以釋放空間和方便維護

本來想的是使用crontab寫個腳本定時執(zhí)行,但是看到Mongo本身就有自動刪除過期數據的功能,所以還是用一下吧

這個方法就是使用TTL索引,后續(xù)我再寫一個腳本定時刪除的任務,關于TTL索引的更多使用實例,大家可以參考學習這篇文章:http://www.fzitv.net/article/126810.htm

介紹:

TTL索引是MongoDB中一種特殊的索引, 可以支持文檔在一定時間之后自動過期刪除,目前TTL索引只能在單字段上建立,并且字段類型必須是date類型或者包含有date類型的數組(如果數組中包含多個date類型字段,則取最早時間為過期時間)

官網介紹鏈接:https://docs.mongodb.com/v3.2/core/index-ttl/

機制:

當你在集合中某一個字段建立TTL索引后,后臺會有一個單線程,通過不斷查詢(默認60s一次)索引的值來判斷document是否有過期,并且刪除文檔的動作還依據mongod實例的負載情況,如果負載很高,可能會稍微延后一段時間再刪除。

還有一個需要注意的地方,在復制集成員中,TTL后臺線程只刪除primary的過期數據,如果此實例變?yōu)閟econdary角色,則后臺線程閑置

創(chuàng)建TTL索引方法:

和普通索引的創(chuàng)建方法一樣,只是會多加一個屬性而已

例:在log_events的集合中,createTime 字段上建立一小時后過期的TTL索引

 >db.log_events.createIndex( { "createTime": 1 }, ---字段名稱 
    { expireAfterSeconds: 60*60 } ) ---過期時間(單位秒)
>db.log_events.getIndexes() ---查看索引
[
 {
  "v" : 1,
  "key" : {
   "_id" : 1
  },
  "name" : "_id_",
  "ns" : "tt.t1"
 },
 {
  "v" : 1,
  "key" : {
   "createTime" : 1
  },
  "name" : "createTime_1",
  "ns" : "tt.t1",
  "expireAfterSeconds" : 3600
 }
]

修改TTL索引的expireAfterSeconds屬性值:

注:如果想更改過期時間expireAfterSeconds,可以使用collMod方法,要不然你只能只用dropIndex(),createIndex()方法重建索引了,我想這樣的方法在億級數據量下是很頭疼的

db.runCommand( { collMod: "log_events", ---集合名
  index: { keyPattern: { createTime: 1 }, ---createTime為具有TTL索引的字段名
    expireAfterSeconds: 7200  ---修改后的過期時間(秒)
   }})

雖然上面的方法可以實現自動過期刪除,但是如果白天業(yè)務很忙,頻繁的刪除數據勢必會增加負載,所以我想著晚上定時刪除過期數據(如果晚上業(yè)務量少的話)

方法如下:

增加一個expireTime字段(用于指定過期時間),expireAfterSeconds屬性值設置為0,

注:上面的createTime字段就不需要再有TTL索引了,這個expireTime的時間就需要在插入時指定上

>db.log_events.createIndex( { "expireTime": 1 }, ---字段名稱
    { expireAfterSeconds: 0 } ) ---過期時間(單位秒)
>db.log_events.insert( {
 "expireTime": new Date('Jan 22, 2016 23:00:00'), ---此文檔將在2016-1-22的23點自動刪除
 "logEvent": 2,
 "logMessage": "Success!"} )

這樣我們就實現了,指定時間自動刪除的動作了

限制條件:

有一下集中情況是無法使用TTL索引的

①TTL索引是單字段索引,混合索引不支持TTL,并且也會忽略expireAfterSeconds屬性

②在_id 主鍵上不能建立TTL索引

③在capped collection中不能建立TTL索引,因為MongoDB不能從capped collection中刪除文檔

④你不能使用createIndex()去更改已經存在的TTL索引的expireAfterSeconds值,如果想更改expireAfterSeconds,可以使用collMod命令,否則你只能刪除索引,然后重建了

⑤你不能在已有索引的字段上再創(chuàng)建TTL索引了,如果你想把非TTL索引改為TTL索引,那就只能刪除重建索引了

驗證:

雖然已經實現了晚上集中自動刪除的功能,但是還是擔心刪除過大數量時負荷問題,隨進行了簡單測試,一查看TTL索引在億級別集合中刪除140萬過期數據的消耗

測試配置:

     OS:Vm虛擬機
     CPU: 4
     內存:8

集合數據量:

> db.t1.count()
104273617

因為我制造測試數據時,_id是順序增加的,所以我直接查看_id=1500000的那筆數據的createTime,然后自己計算一下此createTime和當前時間的時間差,隨后根據這個時間差來更改expireAfterSeconds的值,以讓這150萬數據5分鐘后過期并刪除。

在修改完expireAfterSeconds后,就嚴密延時“ vmstat 1 ” 命令的輸出數據;

我的測試結果:

刪除操作整個過程在90秒左右完成;

CPU最高占用90%,平均在50%

內存占用3G

這個也是特別準確的模擬情況,只是粗略的了解一下TTL索引的資源消耗,以決定是不是需要這樣的方式來實現刪除過期數據

          監(jiān)控vmstat的截圖:

總結

以上就是這篇文章的全部內容了,希望本文的內容對大家的學習或者工作具有一定的參考學習價值,如果有疑問大家可以留言交流,謝謝大家對腳本之家的支持。

相關文章

  • MongoDB磁盤空間占滿導致數據庫被鎖定的解決方法

    MongoDB磁盤空間占滿導致數據庫被鎖定的解決方法

    我在實際項目中,遇到一個問題,隨著數據每天的不斷增加,導致mongodb的磁盤空間站滿了,數據庫被鎖了,無法使用,所以本文給大家介紹了清理MongoDB數據和磁盤空間的方法,需要的朋友可以參考下
    2024-04-04
  • Mongo Shell 執(zhí)行環(huán)境的基本操作

    Mongo Shell 執(zhí)行環(huán)境的基本操作

    Mongo Shell 是 MongoDB 的交互式 JavaScript shell,用于與 MongoDB 數據庫進行交互,這篇文章主要介紹了Mongo Shell 執(zhí)行環(huán)境,需要的朋友可以參考下
    2025-02-02
  • Spring Boot中使用MongoDB數據庫的方法

    Spring Boot中使用MongoDB數據庫的方法

    MongoDB是一個高性能,開源,無模式的,基于分布式文件存儲的文檔型數據庫,由C++語言編寫,其名稱來源取自“humongous”,是一種開源的文檔數據庫──NoSql數據庫的一種。這篇文章主要介紹了Spring Boot中使用MongoDB數據庫的方法,需要的朋友可以參考下
    2017-12-12
  • mongodb eval 執(zhí)行服務器端腳本

    mongodb eval 執(zhí)行服務器端腳本

    在MongoDB的服務器端可以通過db.eval函數來執(zhí)行javascript腳本,如我們可以定義一個javascript函數,然后通過db.eval在服務器端來運行!我們前面其實也接觸過在服務器段運行一個預定義的javascript腳本的情況,如在$where查詢,執(zhí)行mapreduce任務等。
    2015-05-05
  • MongoDB對Document(文檔)的插入、刪除及更新

    MongoDB對Document(文檔)的插入、刪除及更新

    這篇文章介紹了MongoDB對Document(文檔)的插入、刪除及更新,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2022-07-07
  • 如何去掉保存mongodb數據時出現的_class字段

    如何去掉保存mongodb數據時出現的_class字段

    這篇文章主要給大家介紹了如何去掉保存mongodb數據時出現的_class字段,文中通過代碼示例給大家介紹的非常詳細,對大家的學習或工作有一定的幫助,需要的朋友可以參考下
    2024-02-02
  • MongoDB數據庫forEach循環(huán)遍歷用法

    MongoDB數據庫forEach循環(huán)遍歷用法

    這篇文章主要介紹了MongoDB數據庫forEach循環(huán)遍歷用法,需要的朋友可以參考下
    2014-07-07
  • 使用zabbix監(jiān)控mongodb的方法

    使用zabbix監(jiān)控mongodb的方法

    MongoDB 是一個介于關系數據庫和非關系數據庫之間的產品,是非關系數據庫當中功能最豐富,最像關系數據庫的。通過本文給大家介紹使用zabbix監(jiān)控mongodb的方法,需要的朋友參考下
    2016-02-02
  • MongoDB中的定時索引示例詳解

    MongoDB中的定時索引示例詳解

    這篇文章主要給大家介紹了關于MongoDB中定時索引的相關資料,文中通過示例代碼介紹的非常詳細,對大家學習或者使用MongoDB具有一定的參考學習價值,需要的朋友們下面來一起學習學習吧
    2019-08-08
  • MongoDB整庫備份與還原以及單個collection備份、恢復方法

    MongoDB整庫備份與還原以及單個collection備份、恢復方法

    mongodb數據庫維護離不開必要的備份、恢復操作,而且一般不會出錯,所以我們在使用的時候大部分時候使用備份和恢復操作就可以了
    2013-08-08

最新評論

吴忠市| 永德县| 南澳县| 盐山县| 赣州市| 德庆县| 尼玛县| 米脂县| 阿克苏市| 鄂尔多斯市| 来宾市| 仁布县| 叶城县| 西和县| 金川县| 天柱县| 若尔盖县| 全南县| 阿图什市| 平南县| 广东省| 饶河县| 寻乌县| 前郭尔| 易门县| 沭阳县| 新源县| 罗江县| 定南县| 高雄市| 泾源县| 兰考县| 嫩江县| 石屏县| 临夏市| 辽宁省| 和硕县| 凌海市| 区。| 广河县| 天津市|