1. 程式人生 > >Intel測試報告:NVMe SSD構建全快閃記憶體架構vSAN-單節點高達15萬IOPS

Intel測試報告:NVMe SSD構建全快閃記憶體架構vSAN-單節點高達15萬IOPS

【編者按】

---本篇文章導讀---

VMware vSAN是一款靈活的超融合軟體,得益於vSphere成熟而且廣泛的生態鏈,vSAN支援至少14種不同的伺服器品牌,擁有至少160多個經過預先認證的 vSAN 就緒節點(Ready Nodes)。另一重要的資訊是,由於VMware在私有云無可爭議的王者地位,許多新硬體技術出現,都希望能儘快通過vSphere或vSAN的認證。因此,相比傳統外接磁碟陣列,vSAN能在較早的時間相容新的硬體技術。原來有SATA/SAS SSD,後來又有PCIe SSD和NVMe SSD,未來會有NVDIMM SSD(效能將達到SAS SSD的3~6倍)。

如果使用者的業務應用是IOPS密集型,可以考慮採用NVMe SSD。關於vSAN的效能細節,可以參考:

如何選擇NVMe SSD,可以參考如下步驟:

一、開啟vSAN HCL

http://www.vmware.com/resources/compatibility/search.php?deviceCategory=vsan

如果上面的地址難記,可以採用我的同事-蘇旭提供的,非常容易記憶的網址(相容性 的全拼):

http://www.jianrongxing.com/

進入後,開啟位於網頁右邊,中部位置的

Build Your Own based on Certified Components

二、

1、選擇SSD

2、選擇NVMe

3、可以選擇,也可以不選擇。此處Endurance表示耐久性,也即SSD的壽命。

4、可以,也可以不選擇。此處Performance表示效能,指SSD每秒寫次數。

640?wx_fmt=png

---Begin---

在今年8月29日至9月1日於拉斯維加斯舉行的VMworld大會上,兩位來自Intel的儲存解決方案架構師John Hubbard與Chuck Brown發表了“Real World Guidance for Implementing VMware Virtual SAN from Ready Nodes to Build Your Own”的主題演講,分享了他們在實際工作中構建Virtual SAN的經驗。

在VMworld 2015,Intel釋出了世界上第一套以NVMe為快取層,SATA SSD為容量層構建的64節點全快閃記憶體Virtual SAN叢集效能資料。通過使用Intel最新的NVMe SSD,64節點的全快閃記憶體Virtual SAN IOPS效能達到了令人難以置信的670萬IOPS,單節點的IOPS突破了10萬。


那麼問題來了,在VMware Virtual SAN 6.2增加了對去重,壓縮以及糾刪碼的支援以後,是否進一步提高Virtual SAN的價效比與可用性?
Intel的測試結果表明,全NVMe快閃記憶體構建的Virtual SAN 6.2與VMworld 2015釋出的測試資料相比,獲得了50%的效能提升。此外,在同樣的業務場景下啟用去重/壓縮功能後Virtual SAN的實際容量使用率提升了多達7倍。
為什麼使用NVMe? NVMe 全稱 Non-Volatile Memory Express,即非易失性儲存。NVMe 裝置以標準尺寸的PCI Express擴充套件卡的形式直接面向PCI-E介面,原生與CPU直接連線,而不是傳統方式,通過南橋控制器中轉,再連線到CPU。這在很大程度上突破了SATA與SAS在傳輸介面上的瓶頸,降低了控制器和軟體介面部分的延遲。

此外,理論上IOPS=佇列深度/IO延遲,故IOPS的效能與佇列深度有很大關係。傳統的SSD最大佇列深度一般不超過128,而NVM而標準下,最大佇列深度可達64000。因此,理論上採用NVMe介面的SSD效能相比傳統介面會有成百上千倍的提高。如圖一、二所示,我們在同樣的測試環境下分別使用不同型別介面的SSD進行儲存效能測試,使用NVMe作為傳輸介面的SSD在隨機IOPS以及順序頻寬上相比傳統的SAS與SATA介面都有成倍的效能提升。

640?wx_fmt=png


圖一 NVMe與傳統傳輸介面的儲存效能對比(隨機IOPS)

640?wx_fmt=png
圖二 NVMe與傳統傳輸介面的儲存效能對比(順序頻寬)
VMware在Virtual SAN 6.2中加入了對NVMe裝置的支援,這使得在全快閃記憶體架構中使用全NVMe快閃記憶體成為可能。 全NVMe快閃記憶體Virtual SAN叢集 全NVMe快閃記憶體Virtual SAN叢集由8臺SuperMicro伺服器組成,每臺伺服器的具體配置資訊如下: 雙路Intel Xeon E5-2687Wv4(12核@3.0Ghz) 256GB DDR4記憶體 Virtual SAN節點由4個磁碟組構成,每個磁碟組的資訊如下:
  • 1x Intel SSD DC P3700系列(800GB, 2.5’’)

  • 5x Intel SSD DC P3520系列(2000GB, 2.5’’)

網絡卡基於萬兆網路(2塊) ESXi軟體版本為最新的6.2,安裝在獨立的驅動盤上。在將8臺伺服器新增進Virtual SAN集群后,總計裸快閃記憶體空間為345TB。其中Virtual SAN快取層容量為25TB,容量層為320TB。 測試介紹 為了全面測試全NVMe快閃記憶體架構Virtual SAN的效能,我們在以下四種不同的配置環境下進行了效能測試,包括:
  • 高效能模式:關閉去重/壓縮,只啟用映象模式RAID 1

  • 平衡模式:啟用去重/壓縮,啟用映象模式RAID 1

  • 高容量模式:啟用去重/壓縮,啟用糾刪碼RAID 5

  • 高可用性模式:啟用去重/壓縮,啟用糾刪碼RAID 6


為了便於對比,我們將高效能模式做為測試基準。在測試中,我們在Virtual SAN資料儲存上部署了2000臺Windows 2012 R2虛擬機器,每臺虛擬機器的具體配置如下:

虛擬硬體配置

具體引數

CPU

1  vCPU

記憶體

4GB

OS盤

40GB精簡置備

資料盤

10GB厚置備


測試的工作負載由業界標準儲存效能測試工具生成。每次測試執行3小時,以確保實際效能資料真實有效。
測試結果 經過測試,8節點全NVMe快閃記憶體架構Virtual SAN的平均IOPS達到了難以置信的120萬,這意味著平均每個節點的IOPS達到了破紀錄的15萬!相比先前全快閃記憶體配置單節點的10萬IOPS增加了50%!
640?wx_fmt=png
圖三 8節點全NVMe快閃記憶體架構Virtual SAN叢集在不同模式下的效能
如圖三所示,在基準的高效能模式下,整個Virtual SAN叢集的4K 100%全讀IOPS達到了最大值120萬,在4K 70/30讀寫模型可達到90萬;在平衡模式下,IOPS為基準的89%,但卻多出了額外250%的實際可用容量;在高容量模式下,4K 70/30讀寫模型的IOPS為基準的55%,而4K全讀的IOPS為基準的78%。但是實際的有效可用容量比基準模式增加了376%;在RAID 6的高可用性模式下,4K 70/30讀寫模型IOPS為基準的41%,而4K全讀的IOPS為基準的76%。但與此換來的是333%的實際可用容量和額外的元件故障情況下的資料可用性。
同樣讓人印象深刻的還有資料儲存叢集的構建成本,由於Virtual SAN 6.2針對全快閃記憶體新增的去重和壓縮功能,實際有效容量增加了7倍,實際每GB的成本從1.86美元下降到了0.25美元。
640?wx_fmt=png
圖四 不同配置模式下的資料可用性與成本開銷
成本計算分為每GB成本,和每個I/O的成本,以美元計價。如圖四所示,在基準的高效能模式下,實際每GB的成本為1.86美元,根據4K 100%全讀計算出每個IOPS的I/O成本為0.23美元。與高效能模式的基準值相比較,在平衡模式下,實際每GB成本為0.37美元,I/O成本為0.25美元;在高容量模式下,實際每GB成本為0.25美元,I/O成本為0.29美元;在高可用性模式下,實際每GB成本為0.28美元,I/O成本為0.29美元。 總結 雖然在測試中我們將Virtual SAN配置為四種不同的模式分別進行了效能測試和儲存成本比較。但是在實際的生產測試環境中,通過Virtual SAN基於儲存策略的管理(Storage Policy Based Management,SPBM)可以針對不同的業務應用需求對虛擬機器的VMDK線上應用不同的儲存策略。這使得使用者在投入相同成本的前提下,可以在高效能、高容量、高可用性之間獲得最佳的平衡。
由於Virtual SAN本身具有優異的橫向擴充套件能力,通過使用NVMe SSD構建全快閃記憶體架構Virtual SAN,可以使使用者使用更少的節點獲得所需的叢集儲存效能。此外,單節點15萬IOPS的線性儲存效能提升也幫助使用者在橫向擴充套件Virtual SAN叢集儲存效能時變得更加簡潔迅速。 說明 本文內容由VMware中國研發中心儲存與高可用性事業部Virtual SAN解決方案團隊(Product Enablement, PE)丁楠根據VMworld主題演講整理髮布。Virtual SAN解決方案團隊致力於向客戶提供最佳的Virtual SAN與行業關鍵應用融合解決方案,並承擔Virtual SAN產品、技術和解決方案在中國地區的推廣與技術支撐任務。

---End---

微信公眾號平臺"樂生活與愛IT"在目前階段,主要是分享軟體定義儲存(SDS),及VMware VSAN相關的文章,偶爾也會分享虛擬化、雲端計算、大資料,甚至生活類的好文章。歡迎投稿,我的QQ號:9269216歡迎對SDS感興趣的朋友,加入軟體定義儲存討論 QQ群:122295009,可下載原創的一些文章,及其他有參考價值的文件。可直接搜尋群號,或者掃描如下二維碼:

640?wx_fmt=png

同時,歡迎您加入 "開放討論群-SDS&虛擬化" 微信群,並邀請其他對SDS和虛擬化感興趣的朋友加入此微信群。可以通過新增如下管理員之一的微訊號,建議新增管理員時,告知你的公司名和姓名,方便備註儲存。

sdg8848

libo9538

yangzhuan

dts0103

歡迎您通過掃描關注微信公眾號:“樂生活與愛IT”。

640?wx_fmt=png

關注後,可以通過點選左下角的文章目錄,通過輸入三位數(記住!是三位數,目前第一位是0或者1)詳細瞭解如何檢視歷史文章。

---備註---

上期 《贈書 | 容器技術怎樣用儲存?》獲得贈書的朋友是 “白丁。”,請在後臺和我聯絡。

640?wx_fmt=png

---推薦書籍---

更多業務應用的效能資料,以及最佳實踐,可以到VMware研發中心新出的《Virtual SAN最佳實踐》裡找到。開啟左下角的“閱讀原文”,即可跳轉到京東網站購買vSAN最佳實踐書籍