1. 程式人生 > >Elasticsearch索引管理-reindex重建索引

Elasticsearch索引管理-reindex重建索引

一個field的設定是不能被修改的,如果要修改一個field,那麼應該重新按照新的mapping,建立一個index,然後將資料批量查詢出來,重新用bulk api寫入新index中。
批量查詢的時候,建議採用scroll api,並且採用多執行緒併發的方式來reindex資料,每次scroll就查詢指定日期的一段資料,交給一個執行緒即可。

具體操作步驟:

(1)一開始,依靠dynamic mapping,插入資料,但是不小心有些資料是2017-01-01這種日期格式的,所以ES自動將這種格式的field對映為了date型別,實際上他應該是string型別。這時候我們插入hello這類詞語就會報錯,因為他已經預設是date型別了

PUT /my_index/my_type/3
{
  "title" : "2017-01-01"
}

GET my_index/_mapping/my_type
結果

{
  "my_index": {
    "mappings": {
      "my_type": {
        "properties": {
          "title": {
            "type": "date"
          }
        }
      }
    }
  }
}

結果表明,ES的dynamic mapping自動將日誌格式的字串給對映為了date型別

(2)當我們向索引中加入string型別的title值的時候就會報錯

PUT /my_index/my_type/4
{
  "title" : "hello world"
}

返回結果

{
  "error": {
    "root_cause": [
      {
        "type": "mapper_parsing_exception",
        "reason": "failed to parse [title]"
      }
    ],
    "type": "mapper_parsing_exception",
    "reason": "failed to parse [title]",
    "caused_by": {
      "type": "illegal_argument_exception",
      "reason": "Invalid format: \"hello world\""
    }
  },
  "status": 400
}

(3)如果此時想修改title的型別,那麼是不可能的

PUT /my_index/_mapping/my_type
{
  "properties": {
    "title" : {
      "type": "text"
    }
  }
}

返回結果

{
  "error": {
    "root_cause": [
      {
        "type": "illegal_argument_exception",
        "reason": "mapper [title] of different type, current_type [date], merged_type [text]"
      }
    ],
    "type": "illegal_argument_exception",
    "reason": "mapper [title] of different type, current_type [date], merged_type [text]"
  },
  "status": 400
}

結果表明:field一旦被建立就不可能被更改型別。

(4)此時,唯一辦法就是進行reindex,也就是說,重新建立一個新的索引,將舊索引的資料查詢出來,再匯入新索引。

(5)如果說舊索引的名字是old_index,新索引的名字是new_index,終端java應用,已經在使用old_index在操作了,難道還要去停止線上的java應用,修改使用者正在使用的index為new_index,再重啟java服務嗎?這個過程中,一定會導致使用者正在瀏覽,但是突然就無法訪問了的情況。

(6)所以說,給java應用一個別名,這個別名是指向舊索引的,java應用先用著,java應用先用good_index alias來操作,此時實際指向的是舊的index(my_index)

PUT /my_index/_alias/good_index

此時我們去查good_index

GET /good_index/_search
{
  "query": {
    "match_all": {}
  }
}

返回結果:

{
  "took": 4,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "failed": 0
  },
  "hits": {
    "total": 1,
    "max_score": 1,
    "hits": [
      {
        "_index": "my_index",
        "_type": "my_type",
        "_id": "3",
        "_score": 1,
        "_source": {
          "title": "2017-01-01"
        }
      }
    ]
  }
}

結果表明:現在good_index就是my_index的別名,good_index指向了my_index。

(7)新建一個index,調整其title的型別為string

PUT /my_index_new
{
  "mappings": {
    "my_type" : {
      "properties": {
        "title" : {
          "type": "string"
        }
      }
    }
  }
}

(8)使用scroll api將資料批量查詢出來

GET /my_index/_search?scroll=1m
{
  "query": {
    "match_all": {}
  },
  "sort": ["_doc"],
  "size": 1
}

這裡size:1,是因為我們沒有那麼多的資料。所以就模擬一下,真實場景可能成千上萬,看自己的資料量了。

返回結果

{
  "_scroll_id": "DnF1ZXJ5VGhlbkZldGNoBQAAAAAAASFVFnJyRk9uQ0IzUndxS094YUlleUxuVXcAAAAAAAEhVhZyckZPbkNCM1J3cUtPeGFJZXlMblV3AAAAAAABIVcWcnJGT25DQjNSd3FLT3hhSWV5TG5VdwAAAAAAASFYFnJyRk9uQ0IzUndxS094YUlleUxuVXcAAAAAAAEhWRZyckZPbkNCM1J3cUtPeGFJZXlMblV3",
  "took": 2,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "failed": 0
  },
  "hits": {
    "total": 1,
    "max_score": null,
    "hits": [
      {
        "_index": "my_index",
        "_type": "my_type",
        "_id": "3",
        "_score": null,
        "_source": {
          "title": "2017-01-01"
        },
        "sort": [
          0
        ]
      }
    ]
  }
}

(9)採用bulk api將scroll查出來的一批資料,批量寫入新索引

POST /_bulk
{"index": {"_index" : "my_index_new", "_type" : "my_type", "_id" : "3"}}
{"title" : "2017-01-01"}

(10)反覆迴圈8~9次,查詢一批又一批的資料出來,採取bulk api將每一批資料批量寫入新索引

(11)將goods_index alias切換到my_index_new上去,java應用會直接通過index別名使用心得索引中的資料,java應用程式不需要停機,零提交,高可用

POST /_aliases
{
  "actions" : [
    {"remove" : {"index" : "my_index", "alias" : "goods_index"}},
    {"add" : {"index" : "my_index_new", "alias" : "goods_index"}}
  ]
}

(12)直接通過goods_index別名來查詢是否ok
GET /goods_index/my_type/_search

返回結果

{
  "took": 1,
  "timed_out": false,
  "_shards": {
    "total": 5,
    "successful": 5,
    "failed": 0
  },
  "hits": {
    "total": 1,
    "max_score": 1,
    "hits": [
      {
        "_index": "my_index_new",
        "_type": "my_type",
        "_id": "3",
        "_score": 1,
        "_source": {
          "title": "2017-01-01"
        }
      }
    ]
  }
}

大功告成!!!