1. 程式人生 > >一 大型網站架構演化

一 大型網站架構演化

1.1 大型網站軟體系統的特點

  大型網站應用系統有以下特點

    高併發,大流量:需要面對高併發使用者,大流量訪問。谷歌日均 PV數 35億,日均 IP訪問數 3億;騰訊 QQ的最大線上使用者數1.4億(2011年資料)。

    高可用:系統 7*24小時不間斷服務。

    海量資料:需要儲存、管理海量資料,需要使用大量伺服器。Facebook 每週上傳的照片數量接近10億,百度收錄的網頁數量有數百億,谷歌有近百萬臺伺服器為全球使用者提供服務。

    使用者分佈廣泛,網路情況複雜:大型網際網路都是為全球使用者提供服務的,使用者分佈範圍廣,各地網路情況差別大。在國內,各個運營商網路互通難。中美光纜多次故障,對國外使用者依賴較大的網站需要建立海外資料中心。

    安全環境惡劣:網際網路站容易受到攻擊,大型網站基本每天都會有黑客攻擊。

    需求快速變更,釋出頻繁

    漸進式發展:所有的大型網際網路站都是從一個小網站開始,漸進的發展起來的。

 

1.2 大型網站架構演化發展歷程

1.2.1 初始階段的網站架構

    大型網站都是從小型網站發展來的,網站架構也一樣,從小型網站架構逐步演化而來。小型網站一開始沒有太多人訪問,只需要一臺伺服器綽綽有餘,網站架構如下圖

    

應用程式、資料庫、檔案等所有資源都在一臺伺服器上。通常伺服器作業系統使用 Linux,應用程式使用 PHP開發,然後部署在 Apache上,資料庫使用 MySQL,彙集各種免費開源軟體及一臺廉價伺服器就可以開始網站的發展。

   

1.2.2 應用服務和資料服務分離

     應用和資料分離後整個網站使用三臺伺服器:應用伺服器、檔案伺服器和資料庫伺服器

     這三臺伺服器對硬體資源的要求各不相同:

       應用伺服器需要處理大量的業務邏輯,因此需要更快更強大的 CPU;

       資料庫伺服器需要快速磁碟檢索和資料快取,因此需要更快的硬碟和更大的記憶體;

       檔案伺服器需要儲存大量使用者上傳的檔案,因此需要更大的硬碟。

  隨著使用者逐漸增多,網站有一次面臨挑戰:資料庫壓力太大導致訪問延遲,進而影響整個網站的效能,使用者體驗收到影響,需要進一步優化網站架構。

 

1.2.3 使用快取改善網站效能

  網際網路的業務訪問集中在一小部分的資料上,,把這一小部分資料快取在記憶體中,就可以減少資料庫的訪問壓力,提高整個網站的資料訪問速度,改善資料庫寫入效能。

  網站使用的快取可以分為兩種:快取在應用伺服器上的本地快取和快取在專門的分散式快取伺服器上的遠端快取。

  本地快取的訪問速度更快一些,但是受應用伺服器記憶體限制,其快取資料量有限,而且會出現和應用程式爭用記憶體的情況。

  遠端分散式快取可以使用叢集的方式,部署大記憶體的伺服器作為專門的快取伺服器,可以在理論上做到不受記憶體容量限制的快取服務。

 使用快取後,資料訪問壓力得到有效緩解,但是單一應用伺服器能夠處理的請求連線有限,在網站訪問高峰期,應用伺服器成為整個網站的瓶頸。 

1.2.4 使用應用伺服器叢集改善網站的併發處理能力

  對網站架構而言,只要能通過增加一臺伺服器的方式改善負載壓力,就可以以同樣的方式持續增加伺服器不斷改善系統性能,從而實現系統的可伸縮性。

  應用伺服器實現叢集是網站可伸縮叢集架構設計中較為簡單成熟的一種

  

  

   通過負載均衡排程伺服器,可將來自使用者瀏覽器的訪問請求分發到應用伺服器叢集中的任何一臺伺服器上,如果有更多的使用者,就在叢集中加入更多的應用伺服器,使應用伺服器的負載壓力不再成為整個網站的瓶頸。

  1.2.5 資料庫讀寫分離

    網站在使用快取後,使絕大部分資料讀操作訪問都可以不通過資料庫就能完成,但仍有一部分讀操作(快取訪問不命中、快取過期)和全部的寫操作需要訪問資料庫,在網站的使用者達到一定規模後,資料庫因為負載壓力過高而成為網站的瓶頸。

    目前大部分的主流資料庫都提供主從熱備功能,通過配置兩臺資料庫主從關係,可以將一臺資料庫伺服器的資料更新同步到另一臺伺服器上。

    網站利用資料庫的這一功能實現資料庫讀寫分離,從而改善資料庫負載壓力。

 

    應用伺服器在寫資料的時候,訪問主資料庫,主資料庫通過主從複製機制將資料更新同步到從資料庫,這樣當應用伺服器讀資料的時候,就可以通過從資料庫獲得資料。為了便於應用程式訪問讀寫分離後資料庫,通常在應用伺服器端使用專門的資料訪問模組,使資料庫讀寫分離對應用透明。

  

1.2.6 使用反向代理和CDN加速網站響應

    網站訪問延遲和使用者流失率正相關,網站訪問越慢,使用者越容易失去耐心離開,為了提供更好的使用者體驗,留住使用者,網站需要加速網站訪問速度。

     主要手段有使用 CDN和反向代理。

    CDN 和 反向代理的基本原理都是快取,區別在於 CDN 部署在網路提供商的機房,使使用者在請求網站服務時,可以從距離自己最近的網路提供商機房獲取資料;

    而反向代理則部署在網站的中心機房,當用戶請求到達中心機房後,首先訪問的伺服器是反向代理伺服器,如果反向代理伺服器中快取著使用者請求的資源,就將其直接返回給使用者。

       

   使用 CDN 和反向代理的目的都是儘早返回資料給使用者,一方面加快使用者訪問速度,另一方面也減輕後端伺服器的負載壓力。

 

 1.2.7 使用分散式檔案系統和分散式資料庫系統

    任何強大的單一伺服器都滿足不了大型網站持續增長的業務需求。資料庫經過讀寫分離後,從一臺伺服器拆分成兩臺伺服器,但是隨著網站業務的發展仍然不能滿足需求,這時需要使用分散式資料庫。檔案系統也是一樣,需要使用分散式檔案系統。

    分散式資料庫是網站資料庫拆分的最後手段,只有在單表資料規模非常龐大的時候才使用。不到不得已時,網站更常用的資料庫拆分手段是業務分庫,將不同業務的資料庫部署在不同的物理伺服器上。

  

1.2.8 使用 NoSQL 和搜尋引擎

  隨著網站業務越來越複雜,對資料儲存和檢索的需求也越來越複雜,網站需要採用一些非關係資料庫技術如 NoSQL 和非資料庫查詢技術如搜尋引擎,如下圖所示:

  

  NoSQL 和搜尋引擎都是源自網際網路的技術手段,對可伸縮的分散式特性具有更好的支援。

  應用伺服器則通過一個統一資料訪問模組訪問各種資料,減輕應用程式管理諸多資料來源的麻煩。

 

1.2.9 業務拆分

  大型網站為了應對日益複雜的業務場景,通過使用分而治之的手段將整個網站業務分成不同的產品線,

  如大型購物交易網站就會將首頁、商鋪、訂單、買家、賣家等拆分成不同的產品線,分歸不同的業務團隊負責。

   具體到技術上,也會根據產品線劃分,將一個網站拆分成許多不同的應用,每個應用獨立部署維護。應用之間可以通過一個超連結建立關係(在首頁上的導航連結每個都指向不同的應用地址),

  也可以通過訊息佇列進行資料分發,當然最多的還是通過訪問同一個資料儲存系統來構成一個關聯的完整系統。

  

1.2.10 分散式服務

  隨著業務拆分越來越小,儲存系統越來越龐大,應用系統的整體複雜度呈指數級增加,部署維護越來越困難。由於所有應用要和所有資料庫系統連線,在數萬臺伺服器規模的網站中,這些連線的數目是伺服器規模的平方,導致存資料庫連線資源不足,拒絕服務。

  既然每一個應用系統都需要執行許多相同的業務操作,比如使用者管理、商品管理等,那麼可以將這些共用的業務提取出來,獨立部署。由這些可複用的業務連線資料庫,提供共用業務服務,而應用系統只需要管理使用者介面,通過分散式服務呼叫共用業務服務完成具體業務操作。

  

  大型網站的架構演化到這裡,基本上大多數的技術問題都得以解決,諸如跨資料中心的實時資料同步和具體網站業務相關的問題也都可以通過組合改進現有技術架構來解決。