1. 程式人生 > >python資料庫-mongoDB的高階查詢操作(55)

python資料庫-mongoDB的高階查詢操作(55)

一、MongoDB索引

  為什麼使用索引?

  假設有一本書,你想看第六章第六節講的是什麼,你會怎麼做,一般人肯定去看目錄,找到這一節對應的頁數,然後翻到這一頁。這就是目錄索引,幫助讀者快速找到想要的章節。在資料庫中,我們也有索引,其目的當然和我們翻書一樣,能幫助我們提高查詢的效率。索引就像目錄一樣,減少了計算機工作量,對於表記錄較多的資料庫來說是非常實用的,可以大大的提高查詢的速度。否則的話,如果沒有索引,計算機會一條一條的掃描,每一次都要掃描所有的記錄,浪費大量的cpu時間。

  為了查詢方便,我們建立一個擁有500000條資料的一個集合

> for(var i=0;i<500000;i++){db.nums.insert({name:"name"+i,age:i})}
WriteResult({ "nInserted" : 1 })

createIndex() 方法:MongoDB使用 createIndex() 方法來建立索引。

注意在 3.0.0 版本前建立索引方法為 db.collection.ensureIndex(),之後的版本使用了 db.collection.createIndex() 方法,ensureIndex() 還能用,但只是 createIndex() 的別名。

語法:createIndex()方法基本語法格式如下所示:

>db.collection.createIndex(keys, options)

語法中 Key 值為你要建立的索引欄位,1 為指定按升序建立索引,如果你想按降序來建立索引指定為 -1 即可。

例項:

1、先在未建立索引之前我們按需求查詢nums集合裡面age為399999的 

2、在建立索引之後查詢age為399999的

建立索引

> db.nums.createIndex({age:1})
{
    "createdCollectionAutomatically" : false,
    "numIndexesBefore" : 1,
    "numIndexesAfter" : 2,
    "ok" : 1
}

通過兩次執行時間的對比明顯可以看到建立索引後查詢更快,資料越多,體現的越明顯。

createIndex() 接收可選引數,可選引數列表如下:

 

二、MongoDB 聚合

MongoDB中聚合(aggregate)主要用於處理資料(諸如統計平均值,求和等),並返回計算後的資料結果。有點類似sql語句中的 count(*)。

aggregate() 方法:MongoDB中聚合的方法使用aggregate()。

語法:aggregate() 方法的基本語法格式如下所示:

db.集合名稱.aggregate([{管道:{表示式}}])

管道

  • 管道在Unix和Linux中一般用於將當前命令的輸出結果作為下一個命令的輸入
ps ajx | grep mongo
  • 在mongodb中,管道具有同樣的作用,文件處理完畢後,通過管道進行下一次處理
  • 常用管道
    • $group:將集合中的文件分組,可用於統計結果
    • $match:過濾資料,只輸出符合條件的文件
    • $project:修改輸入文件的結構,如重新命名、增加、刪除欄位、建立計算結果
    • $sort:將輸入文件排序後輸出
    • $limit:限制聚合管道返回的文件數
    • $skip:跳過指定數量的文件,並返回餘下的文件
    • $unwind:將陣列型別的欄位進行拆分
    • $geoNear:輸出接近某一地理位置的有序文件。

  表示式:處理輸入文件並輸出

表示式:'$列名'

常用表示式

  • $sum:計算總和,$sum:1同count表示計數
  • $avg:計算平均值
  • $min:獲取最小值
  • $max:獲取最大值
  • $push:在結果文件中插入值到一個數組中
  • $first:根據資源文件的排序獲取第一個文件資料
  • $last:根據資源文件的排序獲取最後一個文件資料

 

三、$group

  • 將集合中的文件分組,可用於統計結果
  • _id表示分組的依據,使用某個欄位的格式為'$欄位'

例如:heros表中資料如下

> db.heros.find().pretty()
{
    "_id" : ObjectId("5d2e0647614bec7ca4687792"),
    "h_name" : "後裔",
    "h_skill" : "懲戒之劍",
    "h_attack" : 1000,
    "h_blood" : 800,
    "h_type" : "射手"
}
{
    "_id" : ObjectId("5d2e0685614bec7ca4687793"),
    "h_name" : "李白",
    "h_skill" : "青蓮劍仙",
    "h_attack" : 1400,
    "h_blood" : 900,
    "h_type" : "刺客"
}
{
    "_id" : ObjectId("5d2e06d6614bec7ca4687794"),
    "h_name" : "韓信",
    "h_skill" : "國士無雙",
    "h_attack" : 1300,
    "h_blood" : 850,
    "h_type" : "刺客"
}
{
    "_id" : ObjectId("5d2e0720614bec7ca4687795"),
    "h_name" : "妲己",
    "h_skill" : "女王崇拜",
    "h_attack" : 1200,
    "h_blood" : 750,
    "h_type" : "法師"
}

例如:按照英雄型別分組,進行統計個數

> db.heros.aggregate([{$group:{_id:"$h_type",counter:{$sum:1}}}])
{ "_id" : "刺客", "counter" : 2 }
{ "_id" : "法師", "counter" : 1 }
{ "_id" : "射手", "counter" : 1 }
> 

Group by null:將集合中所有文件分為一組

例如:求英雄的從攻擊力和平均血量

> db.heros.aggregate([{$group:{_id:null,h_attacks:{$sum:"$h_attack"},avgh_blood:{$avg:"$h_blood"}}}])
{ "_id" : null, "h_attacks" : 4900, "avgh_blood" : 825 }
> 

透視資料

只查詢英雄型別和名字

> db.heros.aggregate([{$group:{_id:"$h_type",name:{$push:"$h_name"}}}])
{ "_id" : "刺客", "name" : [ "李白", "韓信" ] }
{ "_id" : "法師", "name" : [ "妲己" ] }
{ "_id" : "射手", "name" : [ "後裔" ] }
> 
  • 使用$$ROOT可以將文件內容加入到結果集的陣列中,程式碼如下
> db.heros.aggregate([{$group:{_id:"h_type",name:{$push:"$$ROOT"}}}]).pretty()
{
    "_id" : "h_type",
    "name" : [
        {
            "_id" : ObjectId("5d2e0647614bec7ca4687792"),
            "h_name" : "後裔",
            "h_skill" : "懲戒之劍",
            "h_attack" : 1000,
            "h_blood" : 800,
            "h_type" : "射手"
        },
        {
            "_id" : ObjectId("5d2e0685614bec7ca4687793"),
            "h_name" : "李白",
            "h_skill" : "青蓮劍仙",
            "h_attack" : 1400,
            "h_blood" : 900,
            "h_type" : "刺客"
        },
        {
            "_id" : ObjectId("5d2e06d6614bec7ca4687794"),
            "h_name" : "韓信",
            "h_skill" : "國士無雙",
            "h_attack" : 1300,
            "h_blood" : 850,
            "h_type" : "刺客"
        },
        {
            "_id" : ObjectId("5d2e0720614bec7ca4687795"),
            "h_name" : "妲己",
            "h_skill" : "女王崇拜",
            "h_attack" : 1200,
            "h_blood" : 750,
            "h_type" : "法師"
        }
    ]
}
>

 

四、$match

  • 用於過濾資料,只輸出符合條件的文件
  • 使用MongoDB的標準查詢操作

例如:查詢攻擊力大於1200

> db.heros.aggregate([{$match:{"h_attack":{$gt:1200}}}])
{ "_id" : ObjectId("5d2e0685614bec7ca4687793"), "h_name" : "李白", "h_skill" : "青蓮劍仙", "h_attack" : 1400, "h_blood" : 900, "h_type" : "刺客" }
{ "_id" : ObjectId("5d2e06d6614bec7ca4687794"), "h_name" : "韓信", "h_skill" : "國士無雙", "h_attack" : 1300, "h_blood" : 850, "h_type" : "刺客" }
> 

 

五、$project

  • 修改輸入文件的結構,如重新命名、增加、刪除欄位、建立計算結果
  • 輸出結果和投影效果差不多
> db.heros.aggregate([{$project:{_id:0,h_name:1,h_skill:1}}])
{ "h_name" : "後裔", "h_skill" : "懲戒之劍" }
{ "h_name" : "李白", "h_skill" : "青蓮劍仙" }
{ "h_name" : "韓信", "h_skill" : "國士無雙" }
{ "h_name" : "妲己", "h_skill" : "女王崇拜" }
> 

 

六、$unwind

  • 將文件中的某一個數組型別欄位拆分成多條,每條包含陣列中的一個值

 

語法1

 

對某欄位值進行拆分

db.集合名稱.aggregate([{$unwind:'$欄位名稱'}])

例如:

db.t2.insert({_id:1,item:'t-shirt',size:['S','M','L']})

查詢:

> db.t2.aggregate([{$unwind:'$size'}])
{ "_id" : 1, "item" : "t-shirt", "size" : "S" }
{ "_id" : 1, "item" : "t-shirt", "size" : "M" }
{ "_id" : 1, "item" : "t-shirt", "size" : "L" }
>

語法2

  • 對某欄位值進行拆分
  • 處理空陣列、非陣列、無欄位、null情況
db.inventory.aggregate([{
    $unwind:{
        path:'$欄位名稱',
        preserveNullAndEmptyArrays:<boolean>#防止資料丟失
    }
}])
  • 構造資料
db.t3.insert([
{ "_id" : 1, "item" : "a", "size": [ "S", "M", "L"] },
{ "_id" : 2, "item" : "b", "size" : [ ] },
{ "_id" : 3, "item" : "c", "size": "M" },
{ "_id" : 4, "item" : "d" },
{ "_id" : 5, "item" : "e", "size" : null }
])
  • 使用語法1查詢
> db.t3.find().pretty()
{ "_id" : 1, "item" : "a", "size" : [ "S", "M", "L" ] }
{ "_id" : 2, "item" : "b", "size" : [ ] }
{ "_id" : 3, "item" : "c", "size" : "M" }
{ "_id" : 4, "item" : "d" }
{ "_id" : 5, "item" : "e", "size" : null }
> db.t3.aggregate([{$unwind:'$size'}])
{ "_id" : 1, "item" : "a", "size" : "S" }
{ "_id" : 1, "item" : "a", "size" : "M" }
{ "_id" : 1, "item" : "a", "size" : "L" }
{ "_id" : 3, "item" : "c", "size" : "M" }
> 
  • 檢視查詢結果,發現對於空陣列、無欄位、null的文件,都被丟棄了

使用語法2查詢不會丟棄空陣列,無欄位,null的文件

> db.t3.aggregate([{$unwind:{path:'$sizes',preserveNullAndEmptyArrays:true}}])
{ "_id" : 1, "item" : "a", "size" : [ "S", "M", "L" ] }
{ "_id" : 2, "item" : "b", "size" : [ ] }
{ "_id" : 3, "item" : "c", "size" : "M" }
{ "_id" : 4, "item" : "d" }
{ "_id" : 5, "item" : "e", "size" : null }
> 

&n