1. 程式人生 > >大型Java web專案分散式架構演進

大型Java web專案分散式架構演進

http://blog.csdn.net/binyao02123202/article/details/32340283/

知乎相關文章https://www.zhihu.com/question/22764869

分散式架構的演進


系統架構演化歷程-初始階段架構

初始階段 的小型系統 應用程式、資料庫、檔案等所有的資源都在一臺伺服器上通俗稱為LAMP

特徵:
應用程式、資料庫、檔案等所有的資源都在一臺伺服器上。

描述:
通常伺服器作業系統使用Linux,應用程式使用PHP開發,然後部署在Apache上,資料庫使用MySQL,彙集各種免費開源軟體以及一臺廉價伺服器就可以開始系統的發展之路了。

系統架構演化歷程-應用服務和資料服務分離



好景不長,發現隨著系統訪問量的再度增加,webserver機器的壓力在高峰期會上升到比較高,這個時候開始考慮增加一臺webserver

特徵:
應用程式、資料庫、檔案分別部署在獨立的資源上。

描述:
資料量增加,單臺伺服器效能及儲存空間不足,需要將應用和資料分離,併發處理能力和資料儲存空間得到了很大改善。

系統架構演化歷程-使用快取改善效能

特徵:
資料庫中訪問較集中的一小部分資料儲存在快取伺服器中,減少資料庫的訪問次數,降低資料庫的訪問壓力。

描述:
系統訪問特點遵循二八定律,即80%的業務訪問集中在20%的資料上。
快取分為本地快取和遠端分散式快取,本地快取訪問速度更快但快取資料量有限,同時存在與應用程式爭用記憶體的情況。

系統架構演化歷程-使用應用伺服器叢集

在做完分庫分表這些工作後,資料庫上的壓力已經降到比較低了,又開始過著每天看著訪問量暴增的幸福生活了,突然有一天,發現系統的訪問又開始有變慢的趨勢了,這個時候首先檢視資料庫,壓力一切正常,之後檢視webserver,發現apache阻塞了很多的請求,而應用伺服器對每個請求也是比較快的,看來 是請求數太高導致需要排隊等待,響應速度變慢

特徵:
多臺伺服器通過負載均衡同時向外部提供服務,解決單臺伺服器處理能力和儲存空間上限的問題。

描述:
使用叢集是系統解決高併發、海量資料問題的常用手段。通過向叢集中追加資源,提升系統的併發處理能力,使得伺服器的負載壓力不再成為整個系統的瓶頸。

系統架構演化歷程-資料庫讀寫分離

享受了一段時間的系統訪問量高速增長的幸福後,發現系統又開始變慢了,這次又是什麼狀況呢,經過查詢,發現數據庫寫入、更新的這些操作的部分資料庫連線的資源競爭非常激烈,導致了系統變慢

特徵:
多臺伺服器通過負載均衡同時向外部提供服務,解決單臺伺服器處理能力和儲存空間上限的問題。

描述:
使用叢集是系統解決高併發、海量資料問題的常用手段。通過向叢集中追加資源,使得伺服器的負載壓力不在成為整個系統的瓶頸。

系統架構演化歷程-反向代理和CDN加速

特徵:
採用CDN和反向代理加快系統的 訪問速度。

描述:
為了應付複雜的網路環境和不同地區使用者的訪問,通過CDN和反向代理加快使用者訪問的速度,同時減輕後端伺服器的負載壓力。CDN與反向代理的基本原理都是快取。

系統架構演化歷程-分散式檔案系統和分散式資料庫

隨著系統的不斷執行,資料量開始大幅度增長,這個時候發現分庫後查詢仍然會有些慢,於是按照分庫的思想開始做分表的工作

特徵:
資料庫採用分散式資料庫,檔案系統採用分散式檔案系統。

描述:
任何強大的單一伺服器都滿足不了大型系統持續增長的業務需求,資料庫讀寫分離隨著業務的發展最終也將無法滿足需求,需要使用分散式資料庫及分散式檔案系統來支撐。
分散式資料庫是系統資料庫拆分的最後方法,只有在單表資料規模非常龐大的時候才使用,更常用的資料庫拆分手段是業務分庫,將不同的業務資料庫部署在不同的物理伺服器上。

系統架構演化歷程-使用NoSQL和搜尋引擎

特徵:
系統引入NoSQL資料庫及搜尋引擎。

描述:
隨著業務越來越複雜,對資料儲存和檢索的需求也越來越複雜,系統需要採用一些非關係型資料庫如NoSQL和分資料庫查詢技術如搜尋引擎。應用伺服器通過統一資料訪問模組訪問各種資料,減輕應用程式管理諸多資料來源的麻煩。

系統架構演化歷程-業務拆分

特徵:
系統上按照業務進行拆分改造,應用伺服器按照業務區分進行分別部署。

描述:
為了應對日益複雜的業務場景,通常使用分而治之的手段將整個系統業務分成不同的產品線,應用之間通過超連結建立關係,也可以通過訊息佇列進行資料分發,當然更多的還是通過訪問同一個資料儲存系統來構成一個關聯的完整系統。

縱向拆分:
將一個大應用拆分為多個小應用,如果新業務較為獨立,那麼就直接將其設計部署為一個獨立的Web應用系統

縱向拆分相對較為簡單,通過梳理業務,將較少相關的業務剝離即可。

橫向拆分:將複用的業務拆分出來,獨立部署為分散式服務,新增業務只需要呼叫這些分散式服務

橫向拆分需要識別可複用的業務,設計服務介面,規範服務依賴關係。


系統架構演化歷程-分散式服務

特徵:
公共的應用模組被提取出來,部署在分散式伺服器上供應用伺服器呼叫。

描述:
隨著業務越拆越小,應用系統整體複雜程度呈指數級上升,由於所有應用要和所有資料庫系統連線,最終導致資料庫連線資源不足,拒絕服務。

Q:分散式服務應用會面臨哪些問題?

A:
(1) 當服務越來越多時,服務URL配置管理變得非常困難,F5硬體負載均衡器的單點壓力也越來越大。
(2) 當進一步發展,服務間依賴關係變得錯蹤複雜,甚至分不清哪個應用要在哪個應用之前啟動,架構師都不能完整的描述應用的架構關係。
(3) 接著,服務的呼叫量越來越大,服務的容量問題就暴露出來,這個服務需要多少機器支撐?什麼時候該加機器?
(4) 服務多了,溝通成本也開始上升,調某個服務失敗該找誰?服務的引數都有什麼約定? 
(5) 一個服務有多個業務消費者,如何確保服務質量?
(6) 隨著服務的不停升級,總有些意想不到的事發生,比如cache寫錯了導致記憶體溢位,故障不可避免,每次核心服務一掛,影響一大片,人心慌慌,如何控制故障的影響面?服務是否可以功能降級?或者資源劣化? 

Java分散式應用技術基礎

分散式服務下的關鍵技術:訊息佇列架構

訊息對列通過訊息物件分解系統耦合性,不同子系統處理同一個訊息

分散式服務下的關鍵技術:訊息佇列原理

分散式服務下的關鍵技術:服務框架架構

服務框架通過介面分解系統耦合性,不同子系統通過相同的介面描述進行服務啟用
服務框架是一個點對點模型
服務框架面向同構系統
適合:移動應用、網際網路應用、外部系統

分散式服務下的關鍵技術:服務框架原理

分散式服務下的關鍵技術:服務匯流排架構

服務匯流排同服務框架一樣,均是通過介面分解系統耦合性,不同子系統通過相同的介面描述進行服務啟用
服務匯流排是一個匯流排式的模型
服務匯流排面向同構、異構系統
適合:內部系統

分散式服務下的關鍵技術:服務匯流排原理

分散式架構下系統間互動的5種通訊模式

request/response模式(同步模式):客戶端發起請求一直阻塞到服務端返回請求為止。

Callback(非同步模式):客戶端傳送一個RPC請求給伺服器,服務端處理後再發送一個訊息給訊息傳送端提供的callback端點,此類情況非常合適以下場景:A元件傳送RPC請求給B,B處理完成後,需要通知A元件做後續處理。

Future模式:客戶端傳送完請求後,繼續做自己的事情,返回一個包含訊息結果的Future物件。客戶端需要使用返回結果時,使用Future物件的.get(),如果此時沒有結果返回的話,會一直阻塞到有結果返回為止。

Oneway模式:客戶端呼叫完繼續執行,不管接收端是否成功。

Reliable模式:為保證通訊可靠,將藉助於訊息中心來實現訊息的可靠送達,請求將做持久化儲存,在接收方線上時做送達,並由訊息中心保證異常重試。

五種通訊模式的實現方式-同步點對點服務模式

五種通訊模式的實現方式-非同步點對點訊息模式1

五種通訊模式的實現方式-非同步點對點訊息模式2

五種通訊模式的實現方式-非同步廣播訊息模式

分散式架構下的服務治理

服務治理是服務框架/服務匯流排的核心功能。所謂服務治理,是指服務的提供方和消費方達成一致的約定,保證服務的高質量。服務治理功能可以解決將某些特定流量引入某一批機器,以及限制某些非法消費者的惡意訪問,並在提供者處理量達到一定程度是,拒絕接受新的訪問。

基於服務框架Dubbo的服務治理-服務管理

可以知道你的系統,對外提供了多少服務,可以對服務進行升級、降級、停用、權重調整等操作
可以知道你提供的服務,誰在使用,因業務需求,可以對該消費者實施遮蔽、停用等操作

基於服務框架Dubbo的服務治理-服務監控
可以統計服務的每秒請求數、平均響應時間、呼叫量、峰值時間等,作為服務叢集規劃、效能調優的參考指標。

基於服務框架Dubbo的服務治理-服務路由

基於服務框架Dubbo的服務治理-服務保護

基於服務匯流排OSB的服務治理-功能介紹

基於服務匯流排OSB的服務治理

Q:Dubbo到底是神馬?
A:

淘寶開源的高效能和透明化的RPC遠端呼叫服務框架
SOA服務治理方案

Q:Dubbo原理是?
A:

-結束-