1. 程式人生 > >MongoDB資料庫的使用

MongoDB資料庫的使用

MongoDB是一個基於分散式 檔案儲存的NoSQL資料庫,適合儲存JSON風格檔案的形式。

  • 三元素:資料庫、集合和文件。

    • 文件:對應著關係資料庫中的行,就是一個物件,由鍵值對構成,是json的擴充套件Bson形式,示例
      {'name':'guojing','gender':'男'}
    • 集合:類似於關係資料庫中的表,儲存多個文件,結構不固定,示例
      {'name':'guojing','gender':'男'}
      {'name':'huangrong','age':18}
      {'book':'shuihuzhuan','heros':'108'}

一、環境安裝與執行

  • 安裝

    sudo apt-get install mongodb

  配置檔案為 /etc/mongodb.conf,預設埠號:27017

  • 啟動伺服器

    sudo service mongodb start  #相當於執行命令 sudo mongod --config /etc/mongod.conf
  • 關閉伺服器

    sudo service mongodb stop
  • 重啟伺服器

    sudo service mongodb restart #修改了配置檔案/etc/mongodb.conf後,需要重啟mongodb伺服器讓配置生效
  • 啟動客戶端

    sudo mongo

二、資料庫操作

  • 檢視當前資料庫

    db
  • 檢視所有資料庫

    show dbs
  • 切換(或建立)資料庫

    use 資料庫名

    切換資料庫,如果資料庫不存在,當插入資料或建立集合時,會自動建立這個資料庫

  • 刪除資料庫

    db.dropDatabase()

    刪除當前指向的資料庫,如果不存在,則什麼也不做

三、集合操作

  • 建立

    db.createCollection(name[,options])
    #name集合名稱
    #options可選,是一個用於指定集合配置的文件,其中capped引數預設不設定上限(false),若設定上限(true)則需要指定引數size,單位位元組
    #不設定集合大小
    db.createCollection("stu")
    #設定集合大小
    db.createCollection("sub", { capped : true, size : 10 } )
  • 檢視當前資料庫集合

    show collections
  • 刪除集合

    db.集合名.drop()

四、資料操作

  • 插入

    db.集合名.insert(文件) 或 db.集合名.insert([文件...])
    #如果不指定_id欄位,則分配一個唯一的ObjectId;如果指定_id欄位,且_id已經存在時,不做任何操作;如果一次性插入多條資料,以陣列的方式傳入文件
    # 不指定_id
    db.stu.insert({name:'gj',gender:1})
    
    #指定_id
    s1={_id:'20160101',name:'hr'}
    s1.gender=0
    db.stu.insert(s1)
  • 刪除--(注意justOne引數)

    db.集合名.remove(條件,{justone:<boolean>}) #引數justOne預設false,刪除多條
    # 只刪除匹配到的一條資料
    db.stu.remove({gender:0},{justOne:true})
    
    #刪除所有
    db.stu.remove({})
  • 修改--(注意$set以及multi引數)

    db.集合名.update({條件},$操作符,{multi: <boolean>}]) #引數multi只和$操作符一起使用,預設false,只修改一條資料,true表示修改多條資料
    # 不使用操作符$set,修改整條文件
    db.stu.update({name:'hr'},{name:'mnc'})
    
    #使用操作符$set指定屬性修改
    db.stu.update({name:'hr'},{$set:{name:'hys'}})
    
    #multi引數和$set一起使用,修改多條文件
    db.stu.update({},{$set:{gender:0}},{multi:true})
  • 儲存

    db.集合名.save(document) 
    #在手動插入_id欄位時,如果_id已經存在,做全文件更新操作,其餘均表示插入資料。
    db.stu.save({_id:'20160102','name':'yk',gender:1})
    db.stu.save({_id:'20160102','name':'wyk'}) #對上述文件做修改
  • 查詢

    • 基本查詢

      db.集合名.find({條件文件}) #查詢所有
      db.集合名.findOne({條件文件}) #只查詢第一條
      db.集合名.find({條件文件}).pretty() #結果格式化輸出
    • 比較運算子

      • 等於:預設,沒有運算子
      • 小於: $lt
      • 小於等於: $lte
      • 大於:$gt
      • 大於等於:$gte
      • 不等於:$ne
        #查詢年齡大於等於18的學生
        db.stu.find({"age":{$gte:18}})
    • 邏輯運算子

      • 邏輯與:預設
      • 邏輯或:$or
        # 查詢年齡大於或等於18,並且性別為1的學生
        db.stu.find({"age":{$gte:18},"gender":1})
        
        #查詢年齡大於18,或性別為0的學生
        db.stu.find({$or:[{"age":{$gt:18}},{"gender":1}]})
        
        #查詢年齡小於18或者大於20,性別為1的學生
        db.stu.find({$or:[{"age":{$lt:18}},{"age":{$gt:20}}],"gender":1})
    • 範圍運算子

      • 在某個範圍$in,後面接陣列
      • 不在某個範圍$nin,後面接陣列
        #查詢年齡18、20以及22歲的學生
        db.stu.find({"age":{$in:[18,20,22]}})
        
        #查詢年齡不等於18或20的學生
        db.stu.find({"age":{$nin:[18,20]}})
    • 正則表示式

      • 使用/表示式/或者$regex
        #查詢姓黃的學生
        db.stu.find({"name":/^黃/})
        db.stu.find({"name":{$regex:"^黃"}})
    • 自定義查詢

      • 使用$where:function(){return 滿足條件的資料表示式}------運算子使用js語法,比如邏輯與(&&),邏輯或(||)
        #查詢年齡18-22的學生
        db.stu.find({$where:function(){return this.age>18 && this.age<22}})
        
        #查詢年齡小於18或者大於22的學生
        db.stu.find({$where:function(){return this.age<18 || this.age>22}})
    • 投影

      • 只顯示部分欄位
        db.集合名.find({條件},{欄位名:1,...}) #1表示該欄位顯示,0不顯示;_id列預設顯示,不顯示需要明確設定為0
        #查詢姓名和年齡(顯示_id)
        db.stu.find({},{name:1,gender:1})
        
        #查詢姓名和年齡(不顯示_id)
        db.stu.find({},{_id:0,name:1,gender:1})
    • skip

      • 跳過指定數量的文件
        db.集合名.find({條件}).skip(number) #number預設為0
        #查詢從第3條開始的學生資訊
        db.stu.find().skip(2)
    • limit

      • 讀取指定數量的文件
        db.集合名.find({條件}).limit(number) #不寫number引數,預設讀取所有文件
        #讀取3條學生資訊
        db.stu.find().limit(3)
    • skip和limit合用

      • 不區分先後順序
        #查詢第5-9條學生資訊
        db.stu.find().skip(4).limit(5) #相當於跳過4條資料,選5條
    • sort

      • 對結果集進行排序
        db.集合名稱.find({條件}).sort({欄位:1,...}) #1表示升序,-1表示降序
        #根據性別降序,再根據年齡升序
        db.stu.find().sort({"gender":-1,"age":1})
    • count

      • 對結果集中文件數目進行統計,返回整數
        db.集合名.find({條件}).count() 
        或者 
        db.集合名.count({條件})
        #統計年齡大於20的男生人數
        db.stu.count({"age":{$gt:20},"gender":1})
    • distinct

      • 對資料去重,返回的是一個列表
        db.集合名.distinct("欄位名",{條件}) 

五、聚合(aggregate)

  • 聚合主要用於計算資料,類似sql中的sum()、avg()

    db.集合名.aggregate([{管道:{表示式}}...])
  • 管道

    • 文件處理完畢後,通過管道進行下一次處理

    • 常用管道:

      • $group:將集合中的文件分組,可用於統計結果
      • $match:過濾資料,只輸出符合條件的文件
      • $project:修改輸入文件的結構,如重新命名、增加、刪除欄位、建立計算結果
      • $sort:將輸入文件排序後輸出
      • $limit:限制聚合管道返回的文件數
      • $skip:跳過指定數量的文件,並返回餘下的文件
      • $unwind:將陣列型別的欄位進行拆分
  • 表示式

    • 處理輸入文件並輸出

    • 語法:表示式:‘$欄位名’

    • 常用表示式:

      • $sum:計算總和,$sum:'$欄位'表示求和,注意$sum:1表示計數,
      • $avg:計算平均值
      • $min:獲取最小值
      • $max:獲取最大值
      • $push:在結果文件中插入值到一個數組中(以列表的方式顯示欄位值)
      • $first:根據資源文件的排序獲取第一個文件資料
      • $last:根據資源文件的排序獲取最後一個文件資料
  • $group

    • 文件分組,用於統計結果
    • _id表示分組的依據,使用某個欄位的格式為'$欄位'
      # 統計男、女生人數
      db.stu.aggregate([{$group:{"_id":'gender',"couter":{$sum:1}}}])
      #結果文件中顯示_id和counter的值
    • _id按照null分組,會將集合中所有文件分為一組
      # 求學生總人數和平均年齡
      db.stu.aggregate([{$group:{_id:null,counter:{$sum:1},average_age:{$avg:"$age"}}}])
    • 使用$$ROOT可以將文件內容加入到結果集的陣列中
      #統計男、女生資訊
      db.stu.aggregate([{$group:{_id:"$gender",objects:{$push:"$$ROOT"}}}])
  • $match

    • 過濾資料,輸出符合條件文件
      #查詢年齡大於20的學生
      db.stu.aggregate([{$match:{age:{$gt:20}}}])
      
      #查詢年齡大於20的男、女生人數
      db.stu.aggregate([{$match:{age:{$gt:20}}},{$group:{_id:"$gender",counter:{$sum:1}}}])
  • $project

    • 修改輸出文件的結構
      #查詢學生姓名、年齡
      db.stu.aggregate([{$project:{"_id":0,"name":1,"age":1}}])
      
      #查詢男生、女生人數,但僅輸出人數
      db.stu.aggregate([{$group:{_id:'$gender',counter:{$sum:1}}},{$project:{_id:0,counter:1}}])
  • $sort

    • 將輸入文件排序後輸出
      #查詢學生資訊,按年齡升序
      db.stu.aggregate([{$sort:{age:1}}])
      
      #查詢男生、女生人數,按人數降序
      db.stu.aggregate([{$group:{_id:'$gender',counter:{$sum:1}},{$sort:{counter:-1}}])
  • $limit

    • 限制聚合管道返回的文件數
      #查詢2條學生資訊
      db.stu.aggregate([{$limit:2}])
  • $skip

    • 跳過指定數量的文件,並返回餘下的文件,$skip和$limi合用時,注意先寫skip,再寫limit
      #查詢從第3條開始的學生資訊
      db.stu.aggregate([{$skip:2}])
      
      #統計男生、女生人數,按人數升序,取第二條資料
      db.stu.aggregate([{$group:{_id:"$gender",counter:{$sum:1}}},{$sort:{"counter":1}},{$skip:1},{$limit:1}])
  • $unwind

    • 將文件中的某一個數組型別欄位拆分成多條,每條包含陣列中的一個值
      db.集合名稱.aggregate([{$unwind:'$欄位名稱'}]) 

六、索引

  • 提升查詢速度

  • 建立大量資料

    for(var i=0;i<1000000;i++){db.stu.insert({name:'test'+i,num:i})}
  • 效能分析工具:explain("executionStats")

    查詢語句.explain("executionStats")

    'millis'後面顯示的是查詢時間,單位ms

  • 建立索引

    db.集合.ensureIndex({屬性:1或-1}) #1表示升序,-1表示降序,建立後的索引名稱為"屬性_1"或者"屬性_-1"

    例如:db.stu.ensureIndex({name:1}),建立後的索引名稱為"name_1"

  • 建立唯一索引

    db.集合.ensureIndex({屬性:1},{"unique":true})
  • 建立聯合索引

    db.集合名.ensureIndex({屬性1:1,屬性2:1...})
  • 檢視索引

    db.集合名.getIndexes()
  • 刪除索引

    db.集合名.dropIndex("索引名稱") 

七、資料庫安全

為了更安全的訪問mongodb,需要訪問者提供使用者名稱和密碼,於是需要在mongodb中建立使用者。mongodb資料庫採用了角色-使用者-資料庫的安全管理方式。

  • 常用系統角色如下:

    • root:只在admin資料庫中可用,超級賬號,超級許可權
    • Read:允許使用者讀取指定資料庫
    • readWrite:允許使用者讀寫指定資料庫
  • 建立超級管理使用者:

    use admin #首先切換到admin資料庫
    
    db.createUser({
        user:'使用者名稱',
        pwd:'密碼',
        roles:[{role:'root',db:'admin'}]
    })
  • 啟用安全驗證

    • 修改配置檔案( /etc/mongodb.conf)

      #noauth = true
      auth = true #開啟安全驗證
    • 重啟服務

      sudo service mongodb restart
    • 終端連線

      # sudo mongo -u '使用者名稱' -p '密碼' --authenticationDatabase '資料庫名' 
      sudo mongo -u 'admin' -p '密碼' --authenticationDatabase 'admin'
  • 普通使用者管理

    • 首先使用超級管理員登陸,然後再進行使用者管理操作

    • 建立普通使用者

      db.createUser({
          user:'使用者名稱',
          pwd:'密碼',
          roles:[{role:'readWrite',db:'資料庫名'}...] #數組裡可以有多個角色文件,比如使用者在不同的資料庫裡都有讀寫許可權
      })
    • 檢視當前資料庫的使用者

      show users
    • 修改使用者:可以修改pwd、roles屬性

      db.updateUser('使用者名稱',{pwd:'新密碼',roles:[{'新角色'}...]})
    • 刪除使用者

      use admin  #切換到admin資料庫
      db.system.users.remove(條件)
    • 終端連線

       sudo mongo -u '使用者名稱' -p '密碼' --authenticationDatabase '資料庫名' 

八、複製

複製提供了資料的冗餘備份,並在多個伺服器上儲存資料的副本,允許從硬體故障和服務中斷中恢復資料,能夠實現無宕機維護(自動故障轉移與自動恢復)。

複製至少需要2個節點,其中1個為主節點,其它均為從節點。任何節點均可以成為主節點。

主節點負責所有寫入操作,從節點定期輪詢主節點獲取這些操作並執行這些操作,從而保證從節點的資料與主節點一致。

  • 設定複製節點

    • 建立資料庫檔案存放目錄(自定義)

      mkdir ~/Desktop/t1
      mkdir ~/Desktop/t2
    • 使用如下格式啟動mongod,如果在同一臺主機上,注意port不能相同,replSet的名稱必須是一致的(名稱可以自定義)

      sudo mongod --bind_ip 192.168.196.128 --port 27017 --dbpath ~/Desktop/t1 --replSet rs0
      sudo mongod --bind_ip 192.168.196.128 --port 27018 --dbpath ~/Desktop/t2 --replSet rs0
    • 連線主伺服器(自定義一個)

      sudo mongo --host 192.168.196.128 --port 27017
    • 初始化

      rs.initiate()

      哪個伺服器執行初始化,哪個伺服器就作為主節點,rs是mongo伺服器中專門用於複本集操作的內建物件

    • 檢視當前狀態

      rs.status()
    • 新增副本集

      rs.add("192.168.127.128:8899")
    • 連線從伺服器

      sudo mongo --host 192.168.196.128 --port 27018
    • 從伺服器設定

      rs.slaveOk()

      主伺服器插入資料,從伺服器就可以讀取資料了

    • 刪除從節點

      rs.remove('192.168.196.128:27018') #需要在主伺服器操作

      關閉主伺服器後再重新啟動,會發現原來的從伺服器變為了主伺服器,新啟動的伺服器(原來的主伺服器)變為了從伺服器,但是注意重新設定rs.slaveOk()

九、備份與恢復

  • 備份

    • 語法

      sudo mongodump -h 伺服器地址 -d 需要備份的資料庫 -o 備份資料存放目錄
      mkdir ~/Desktop/test1_bak #建立存放備份資料的目錄
      sudo mongodump -h 192.168.196.128:27017 -d test1 -o ~/Desktop/test1_bak
  • 恢復

    • 語法

      sudo mongorestore -h 伺服器地址 -d 恢復後資料庫名 --dir 備份資料所在位置
      sudo mongorestore -h 192.168.196.128:27017 -d test2 --dir ~/Desktop/test1_bak/test1

十、python互動

  • 安裝pymongo包

    sudo pip3 install pymongo
  • 引入包

    import pymongo
  • 建立連線並建立客戶端

    有安全認證:client=MongoClient("mongodb://使用者名稱:密碼@host:27017/資料庫名稱")
    無安全認證:client=MongoClient("mongodb://localhost: 27017")
  • 獲得資料庫(以test資料庫為例)

    db = client.資料庫名
    例如:db = client.test
  • 獲得集合stu

    stu = db.stu
  • 資料操作

    • 查詢

      • find_one 查詢單個文件
        stu1 = stu.find_one({條件}) #返回一條文件,字典型別
      • find 查詢多個文件
        cursor = stu.find({條件}) #返回迭代器物件cursor
        #方式1:用for迴圈迭代取值
        for s in cursor:
        print(s) #字典型別
        
        #方式2:用next取值
        s1 = next(cursor)
        s2 = next(cursor)
        ...
    • 插入

      • insert_one 插入一條文件
        stu.insert_one(文件)
      • insert_many 插入多條文件
        stu.insert_many([文件1,文件2...])
    • 更新

      • update 更新匹配到的第一條整條文件
        stu.update({條件},文件) #注意條件中的數字一定要寫成字串型別
      • update_one 與$set一起使用,指定屬性修改匹配到的第一條文件
        stu.update_one({條件},{$set:{文件}})
      • update_many 與$set一起使用,指定屬性修改多條文件
        stu.update_many({條件},{$set:{文件}})
    • 刪除

      • delete_one 刪除單條文件
        stu.delete_one({條件})
      • delete_many 刪除多條文件
        stu.delete_many({條件})