最新国产好看的视频,伊人天堂AV在线,国产Aaaaaa视频,蜜臀视频在线观看一区,人妻av色图,密臀久久久精品影片,青青视频免费观看毛片,久草在线观看视,国产三级精品色情在线

使用aggregate在MongoDB中查詢重復(fù)數(shù)據(jù)記錄的方法

 更新時(shí)間:2016年01月20日 09:04:04   作者:Jaxu  
這篇文章主要介紹了使用aggregate在MongoDB中查詢重復(fù)數(shù)據(jù)記錄的方法的相關(guān)資料,需要的朋友可以參考下

MongoDB中聚合(aggregate)主要用于處理數(shù)據(jù)(諸如統(tǒng)計(jì)平均值,求和等),并返回計(jì)算后的數(shù)據(jù)結(jié)果。有點(diǎn)類(lèi)似sql語(yǔ)句中的 count(*)。

aggregate() 方法

MongoDB中聚合的方法使用aggregate()。

語(yǔ)法

aggregate() 方法的基本語(yǔ)法格式如下所示:

>db.COLLECTION_NAME.aggregate(AGGREGATE_OPERATION)

我們知道,MongoDB屬于文檔型數(shù)據(jù)庫(kù),其存儲(chǔ)的文檔類(lèi)型都是JSON對(duì)象。正是由于這一特性,我們?cè)贜ode.js中會(huì)經(jīng)常使用MongoDB進(jìn)行數(shù)據(jù)的存取。但由于Node.js是異步執(zhí)行的,這就導(dǎo)致我們無(wú)法保證每一次的數(shù)據(jù)庫(kù)save操作都是原子型的。也就是說(shuō),如果客戶端連續(xù)兩次發(fā)起同一事件將數(shù)據(jù)存入數(shù)據(jù)庫(kù),很可能會(huì)導(dǎo)致數(shù)據(jù)被重復(fù)保存。高并發(fā)的情況下,哪怕是你在代碼中已經(jīng)做了非常嚴(yán)格的校驗(yàn),例如插入數(shù)據(jù)前判斷要保存的數(shù)據(jù)是否已經(jīng)存在,但仍然有可能會(huì)出現(xiàn)數(shù)據(jù)被重復(fù)保存的風(fēng)險(xiǎn)。因?yàn)樵诋惒綀?zhí)行中,你沒(méi)有辦法保證哪個(gè)線程先執(zhí)行,哪個(gè)線程后執(zhí)行,客戶端發(fā)起的所有請(qǐng)求并非按我們想象的都是順序執(zhí)行的。一個(gè)較好的解決辦法是在Mongo數(shù)據(jù)庫(kù)的所有表中創(chuàng)建唯一索引。事實(shí)上,MongoDB默認(rèn)會(huì)為所有表創(chuàng)建一個(gè)_id字段的唯一索引(可以取消)。如果你想在Node.js中通過(guò)mongoose.schema來(lái)自動(dòng)創(chuàng)建索引,可以參考下面的代碼:

var mongoose = require('mongoose');
var Schema = mongoose.Schema;
var customerSchema = new mongoose.Schema({
cname: String,
cellPhone, String,
sender: String,
tag: String,
behaviour: Number,
createTime: {
type: Date,
default: Date.now
},
current:{
type: Boolean,
default: true
}
}, {
versionKey: false
});
customerSchema.index({cname:1,cellPhone:1,sender:1,tag:1,behaviour:1}, {unique: true});module.exports = mongoose.model('customer', customerSchema); 

  上面的model中我們定義了表customer的結(jié)構(gòu),并通過(guò)index()方法在字段cname,cellPhone,sender,tag,behaviour上創(chuàng)建了唯一索引,這樣當(dāng)包含這些字段的重復(fù)數(shù)據(jù)被插入時(shí),數(shù)據(jù)庫(kù)會(huì)拋出異常。借用mongoose,如果數(shù)據(jù)庫(kù)表之前已經(jīng)被創(chuàng)建并且程序正在運(yùn)行中,當(dāng)我們修改model并添加索引,然后重新啟動(dòng)app,只要有對(duì)該model的訪問(wèn),mongoose會(huì)自動(dòng)進(jìn)行檢測(cè)并創(chuàng)建索引。當(dāng)然,如果數(shù)據(jù)出現(xiàn)重復(fù),則索引創(chuàng)建會(huì)失敗。此時(shí)我們可以通過(guò)在創(chuàng)建索引時(shí)添加dropDups選項(xiàng),讓數(shù)據(jù)庫(kù)自動(dòng)將重復(fù)的數(shù)據(jù)刪除,如:

customerSchema.index({cname:1,cellPhone:1,sender:1,tag:1,behaviour:1}, {unique: true, dropDups: true});

  不過(guò)據(jù)MongoDB的官方說(shuō)明,自3.0以后的版本不再使用該選項(xiàng),而且也并沒(méi)有提供替代的解決辦法。貌似官方不再提供創(chuàng)建索引時(shí)自動(dòng)刪除重復(fù)記錄的功能。那如何才能快速有效地找出重復(fù)的記錄并且刪除呢?首先我們要找出這些記錄,然后通過(guò)remove()方法進(jìn)行刪除。下面的查詢語(yǔ)句可以找出給定字段有重復(fù)數(shù)據(jù)的記錄:

db.collection.aggregate([
{ $group: { 
_id: { firstField: "$firstField", secondField: "$secondField" }, 
uniqueIds: { $addToSet: "$_id" },
count: { $sum: 1 } 
}}, 
{ $match: { 
count: { $gt: 1 } 
}}
]) 

  替換_id屬性的值以指定你想要進(jìn)行判斷的字段。相應(yīng)地,在Node.js中代碼如下:

var deferred = Q.defer();
var group = { firstField: "$firstField", secondField: "$secondField"};
model.aggregate().group({
_id: group,
uniqueIds: {$addToSet: '$_id'},
count: {$sum: 1}
}).match({ count: {$gt: 1}}).exec(deferred.makeNodeResolver());
return deferred.promise; 

上述代碼使用了Q來(lái)替換函數(shù)執(zhí)行中的回調(diào)。在Node.js的異步編程中,使用Q來(lái)處理回調(diào)是個(gè)不錯(cuò)的選擇。

  下面是返回的結(jié)果:

/* 1 */
{
"result" : [ 
{
"_id" : {
"cellPhone" : "15827577345",
"actId" : ObjectId("5694565fa50fea7705f01789")
},
"uniqueIds" : [ 
ObjectId("569b5d03b3d206f709f97685"), 
ObjectId("569b5d01b3d206f709f97684")
],
"count" : 2.0000000000000000
}, 
{
"_id" : {
"cellPhone" : "18171282716",
"actId" : ObjectId("566b0d8dc02f61ae18e68e48")
},
"uniqueIds" : [ 
ObjectId("566d16e6cf86d12d1abcee8b"), 
ObjectId("566d16e6cf86d12d1abcee8a")
],
"count" : 2.0000000000000000
}
],
"ok" : 1.0000000000000000
}

  從結(jié)果中可以看到,一共有兩組數(shù)據(jù)相同的記錄,所以返回的result數(shù)組的長(zhǎng)度為2。uniqueIds屬性為一個(gè)數(shù)組,其中存放了重復(fù)記錄的_id字段的值,通過(guò)該值我們可以使用remove()方法來(lái)查找并刪除對(duì)應(yīng)的數(shù)據(jù)。

相關(guān)文章

  • 使用MongoDB操作文檔

    使用MongoDB操作文檔

    本文詳細(xì)講解了使用MongoDB操作文檔的方法,文中通過(guò)示例代碼介紹的非常詳細(xì)。對(duì)大家的學(xué)習(xí)或工作具有一定的參考借鑒價(jià)值,需要的朋友可以參考下
    2022-03-03
  • MongoDB 模式設(shè)計(jì)詳解

    MongoDB 模式設(shè)計(jì)詳解

    這篇文章主要介紹了MongoDB 模式設(shè)計(jì)詳解的相關(guān)資料,需要的朋友可以參考下
    2022-12-12
  • MongoDB入門(mén)教程之細(xì)說(shuō)MongoDB數(shù)據(jù)庫(kù)的增刪查改操作

    MongoDB入門(mén)教程之細(xì)說(shuō)MongoDB數(shù)據(jù)庫(kù)的增刪查改操作

    這篇文章主要介紹了MongoDB入門(mén)教程之細(xì)說(shuō)MongoDB數(shù)據(jù)庫(kù)的增刪查改操作,本文環(huán)境是windows,所以以圖片形式講解,需要的朋友可以參考下
    2014-08-08
  • 深究從MongoDB的ObjectId中獲取時(shí)間信息

    深究從MongoDB的ObjectId中獲取時(shí)間信息

    MongoDB默認(rèn)使用_id字段作為主鍵,類(lèi)型為ObjectId。ObjectId的生成有一定的規(guī)則,詳情可以查看這篇文章MongoDB深究之ObjectId
    2017-03-03
  • mongodb數(shù)據(jù)庫(kù)基礎(chǔ)知識(shí)之連表查詢

    mongodb數(shù)據(jù)庫(kù)基礎(chǔ)知識(shí)之連表查詢

    這篇文章主要給大家介紹了關(guān)于mongodb數(shù)據(jù)庫(kù)基礎(chǔ)知識(shí)之連表查詢的相關(guān)資料,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家學(xué)習(xí)或者使用mongodb具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面來(lái)一起學(xué)習(xí)學(xué)習(xí)吧
    2019-06-06
  • mongodb的安裝使用和pymongo基本使用教程

    mongodb的安裝使用和pymongo基本使用教程

    這篇文章主要介紹了mongodb的安裝使用和pymongo基本使用教程,非常不錯(cuò),具有參考借鑒價(jià)值,需要的朋友可以參考下
    2017-07-07
  • MongoDB 用戶管理

    MongoDB 用戶管理

    這篇文章主要介紹了MongoDB 如何對(duì)用戶管理,幫助大家更好的理解和使用MongoDB數(shù)據(jù)庫(kù),感興趣的朋友可以了解下
    2020-09-09
  • 在 Fedora 上安裝 MongoDB 服務(wù)器的方法教程

    在 Fedora 上安裝 MongoDB 服務(wù)器的方法教程

    Mongo是一個(gè)高性能、開(kāi)源、無(wú)模式的、面向文檔的數(shù)據(jù)庫(kù),它是最受歡迎的 NoSQL 數(shù)據(jù)庫(kù)之一。這篇文章主要介紹了在 Fedora 上安裝 MongoDB 服務(wù)器的方法,需要的朋友可以參考下
    2020-03-03
  • 深入理解MongoDB分片的管理

    深入理解MongoDB分片的管理

    這篇文章帶大家深入理解MongoDB分片的管理,將通過(guò)主分片、分片的元數(shù)據(jù)、刪除分片、增加分片、特大塊以及均衡器這幾方面來(lái)詳細(xì)介紹,對(duì)大家的學(xué)習(xí)理解很有幫助,有需要的可以參考借鑒。
    2016-09-09
  • MongoDB的啟動(dòng)方法詳細(xì)總結(jié)

    MongoDB的啟動(dòng)方法詳細(xì)總結(jié)

    MongoDB是一個(gè)基于分布式文件存儲(chǔ)的數(shù)據(jù)庫(kù),下面這篇文章主要給大家介紹了關(guān)于MongoDB啟動(dòng)方法的相關(guān)資料,文中通過(guò)圖文介紹的非常詳細(xì),需要的朋友可以參考下
    2023-03-03

最新評(píng)論

平凉市| 景宁| 确山县| 北辰区| 遂川县| 凉城县| 南郑县| 迁西县| 鄂伦春自治旗| 宣恩县| 防城港市| 张北县| 开鲁县| 湄潭县| 丰县| 南雄市| 怀化市| 普定县| 突泉县| 广平县| 临澧县| 玉龙| 五莲县| 富源县| 玉田县| 石狮市| 塔河县| 嘉荫县| 西青区| 云南省| 东港市| 行唐县| 罗城| 福贡县| 五华县| 团风县| 克拉玛依市| 天水市| 建平县| 富顺县| 佛山市|