1. 程式人生 > >Lustre並行檔案系統的部署和測試

Lustre並行檔案系統的部署和測試

Author: Luo

E-Mail: [email protected]

MSN: [email protected]

Date: 12 Sep, 2011

Keywords: Lustre,並行檔案系統, 叢集, 高效能, 線性增長

一 並行檔案系統

        檔案系統分為分散式和共享式,而在分散式檔案系統中,又細分有分散式並行檔案系統,這裡說的也是這個。NFS(網路檔案系統)是起源最早的為網路系統服務的檔案系統之一,使用者可以通過NFS將自己的儲存才網路中共享給所有的客戶端。但是在系統增大,計算機節點增多的前提下,很容易出現訪問瓶頸,比如網路瓶頸(千兆網絡卡的最大資料能力就是100MB/s上下),儲存瓶頸(單硬碟的讀寫能力基本在100MB/s上下),伺服器記憶體等,都會成為儲存的瓶頸。基於此問題,誕生了更新一代的網路檔案系統,那就是分散式並行檔案系統。它通過在網路中集中的管理大於2臺儲存伺服器,使之能如訪問一臺儲存的使用方式一樣,保持系統前後使用的一致性基礎上, 通過儲存伺服器的疊加,來提高訪問的速度和儲存的大小。具體的做法如下:

 1. 一臺伺服器用來構建元資料伺服器,主要是檔案的索引資訊(檔案物理位置,檔案建立者,時間,日期,日誌等);

 2.  多臺檔案儲存伺服器,用來儲存檔案的實際內容;

二 Lustre 概述

         Lustre檔案系統是當前應用最為廣泛的分散式並行檔案系統,在世界超級計算機500強中佔有大數(其他有ZFS, Panasas等),Lustre由SUN公司開發和維護,現在被Oracle收購,由Oracle提供開發和維護(從2.0開始,Oracle不提供純軟體的技術支援了,對免費使用的使用者來說,基本沒什麼影響),是免費的軟體,遵從GPL開源軟體協議。相容了POSIX標準(是一個UNIX系統的程式訪問作業系統介面,主要是方便應用程式在不同的Unix系統,包含了Linux系統之間方便的移植)的網路系統,能使用與類Unix,Linux,FreeBSD架構的系統。

三 系統安裝與部署

四 效能測試

五 除錯調優

六 編者按

七 備註

八 參考

相關推薦

Lustre並行檔案系統部署測試

Author: Luo E-Mail: [email protected] MSN: [email protected] Date: 12 Sep, 2011 Keywords: Lustre,並行檔案系統, 叢集, 高效能, 線性增長 一 並行檔案系

Lustre並行檔案系統建設

Author By esxu 2015/08/19 專案背景介紹 本次專案目的在於構建一個具有高效能、支援高併發讀寫、檔案共享的儲存系統。Lustre在HPC領域被廣泛使用,本次專案建設也是在調研了其他諸多檔案系統之後,最終選擇Lustre檔案系

【高效能】Lustre分散式儲存檔案系統介紹故障分析

Lustre是應用廣泛的linux開源分散式儲存檔案系統,其容量可輕易擴容到PB級別,在HPC、雲上有相應的使用。 Lustre由元資料伺服器MDS、資料儲存伺服器OSS組成。MDS伺服器負責管理OSS伺服器上的資料,並處理來自客戶端的資料請求。每個OSS伺服器的本地儲存

redis3.0集群部署測試

讀取 每次 redis3.0 des redis 集群 clu ast str 禁用 redis3.0集群部署和測試 環境介紹 兩臺Centos7的虛擬機模擬6個節點,A臺3個master節點,B臺3個slave節點A地址:172.16.81.140B地址:172.16.

Linux.ext4檔案系統 .inodeextent

最近在看相關內容,不過總是不是很系統,今日看到此部落格,感覺恍然大悟,作者寫的非常棒:轉載: https://blog.csdn.net/stringNewName/article/details/73740155 為表示對作者的尊敬,一字不動的敲擊! 最近在看ext4

LDAP-openldap服務部署測試(YUM安裝)

1. 概述 2. 服務端部署過程 2.1 軟體包說明 2.2 部署過程 2.3 配置過程 3. 測試 4. 生成LDIF格式檔案 4.1 安裝migrationtools工具 4.2 用migrationtools生成ldif檔案 4.3 新增ld

Centos7.4 samba伺服器部署測試.md

關閉防火牆以及關閉防火牆開機自啟 [[email protected] tmp]# systemctl stop firewalld.service [[email protected] tmp]# systemctl disable firewalld.ser

Spring Boot 初級入門教程(十三) —— 打完整 war 包、部署測試(附原始碼)

前面幾篇文章介紹瞭如何打 jar 包並如何在伺服器環境上測試,那麼這篇就說說如何打 war 包並在 tomcat 伺服器上部署測試。 畢竟在開發過程中,很多專案都是 web 專案,最熟悉的還是直接部署在 tomcat 伺服器中執行,本地開發也是在 IDE 開發環境配置伺服器,併發布執行。只不

Spring Boot 初級入門教程(十一) —— 打分離 jar 包、部署測試(附原始碼)

分離 jar 包,也就是把工程原始碼打包到 *.jar,而把工程依賴的所有 lib 單獨生成,這樣打包的好處是,在依賴包沒有修改的情況下,部署時只需要上傳一次依賴包,每次部署的專案 jar 包很小,在伺服器網路不太好的情況下,這樣做是非常有必要的,因為上傳 20M 和 上傳 20K 的時間還是有

Spring Boot 初級入門教程(十) —— 打完整 jar 包、部署測試

不知不覺都第十篇了,用了這麼久,都是在本機執行,localhost 還是不爽,加上目前 jsp 頁面已配置,可以做幾個炫一些的頁面,掛伺服器上試試。那麼問題來了,如何打包、部署呢?接下來開始嘗試打包,Spirng Boot 預設配置是 jar 包,那首先來嘗試一下 jar 包的打包、部署和測試。

MyEclipse教程:Web開發——部署測試Web專案

MyEclipse 線上訂購年終抄底促銷!火爆開搶>> MyEclipse最新版下載 本教程向用戶展示了使用關聯的Web專案建立Web片段專案的機制。使用者還可以獲得要檢查的示例專案。在本教程中,使用者將學習如何: 建立Web片段和關聯的Web專案 部署並測試包含Web片段的示

【unix學習】檔案系統資訊檔案許可權

檔案系統資訊和檔案許可權 cpuinfo cpu的資訊 總核數 = 物理CPU個數 X 每顆物理CPU的核數 總邏輯CPU數 = 物理CPU個數 X 每顆物理CPU的核數 X 超執行緒數 檢視物理CPU個數 cat /proc/cpuinfo|

Linux檔案系統簡介軟連結硬連結的區別

Linux有著極其豐富的檔案系統,大體可分為如下幾類: 網路檔案系統:如nfs、cifs等; 磁碟檔案系統:如ext3、ext4等; 特殊檔案系統:如prco、sysfs、ramfs、tmpfs等; 一、Linux系統中一切皆檔案(除程序以外) Linux系統的頂層目錄結構如下 1 /

Parallel File System 並行檔案系統

storage stack 關於儲存棧的基礎:儲存棧包含了完整的伺服器、網路部分和伺服器虛擬化部分。 HPC I O Stack 目標:相比於直接使用並行檔案系統,提高效能和使用效率。同時可以減少運用端需要進行的優化。 –》運用

移植u-boot-2011.03到S3C2440(utu2440)的方法與步驟###8. u-boot引導啟動nand flash中核心檔案系統cramfs使用者檔案系統yaffs2支援

rivers/rtc/hctosys.c: unable to open rtc device (rtc0)uncorrectable error : <3>uncorrectable error : <3>end_request: I/O error, dev mtdblock2, 

Linux:Day8(上) 檔案系統掛載管理工具

檔案系統管理:   將額外檔案系統與根檔案系統某現存的目錄建立起關聯關係,進而使得此目錄做為其它檔案訪問入口的行為稱之為掛載;   解除此關聯關係的過程稱之為解除安裝;   把裝置關聯掛載點:Mount Point     mount   解除安裝時:可使用裝置,也可以使用掛載點     umou

儲存一問:檔案系統——卷快照小BUG

儲存小疑惑 背景 原因 方法 對於一個檔案系統,比如 zfs,ext4等 背景 當我們建立一個卷,把它映射出來,格式化成ext4檔案系統 掛載到客戶機後,對這個卷多次讀寫,並在每次讀寫後做快照,如果這個卷一致沒有被 umount

CentOS7檔案系統管理硬碟掛載

df 功能: 檢視檔案系統 使用: df [選項] [掛載點] 選項: #### -a 顯示所有檔案系統資訊,包括特殊檔案系統 #### -h 智慧轉換單位顯示 #### -T 顯示檔案系統型別 du 功能: 統計目錄或檔

深入理解Lustre檔案系統-第12篇 Lustre磁碟檔案系統:ldiskfs

ldiskfs(有些時候被錯誤地稱為Linux ext4檔案系統)是對Linux ext3檔案系統的打了很多補丁的一個版本,由Sun Microsystems公司開發和維護。ldiskfs是Linux ext3和ext4檔案系統的超集。現在它只被Lustre檔案系統用在伺服

linux檔案系統分類特點

1、linux檔案系統分配策略: 塊分配(blockallocation)和擴充套件分配(extentallocation): 塊分配:磁碟上的檔案塊根據需要分配給檔案,避免了儲存空間的浪費。但當檔案擴充時,會造成檔案中檔案塊的不連續,從而導致過多的磁碟尋道時間。 每一次檔