Nginx

首先要明白，Nginx採用的是多程序（單執行緒）&多路IO複用模型。使用了I/O多路複用技術的Nginx，就成了”併發事件驅動“的伺服器。

多程序的工作模式

1、Nginx在啟動後，master程序fork()多個相互獨立的worker程序。
2、接收來自外界的訊號，然向各worker程序傳送訊號，每個程序都有可能來處理這個連線。
3、 master程序能監控worker程序的執行狀態，當worker程序退出後(異常情況下)，會自動再fork()新worker程序。

注意worker程序數，一般會設定成機器cpu核數。因為更多的worker只會導致程序之間相互競爭cpu，從而帶來不必要的上下文切換。

使用多程序模式，不僅能提高併發率，而且程序之間是相互獨立的，一 個worker程序掛了不會影響到其他worker程序。

驚群現象

master程序首先通過socket()來建立一個監聽描述符，然後fork()若干個worker，子程序將繼承父程序的監聽描述符，之後子程序在該監聽描述符上accept()建立已連線描述符（connected descriptor），然後通過已連線描述符來與客戶端通訊。

那麼，由於所有子程序都繼承了父程序的 sockfd，那麼當連線進來時，所有子程序都將收到通知並“爭著”與它建立連線，這就叫“驚群現象”。大量的程序被啟用又掛起，只有一個程序可以accept() 到這個連線，這當然會消耗系統資源。

Nginx對驚群現象的處理：

Nginx提供了一個accept_mutex這個東西，這是一個加在accept上的一把互斥鎖。即每個worker程序在執行accept()之前都需要先獲取鎖，accept()成功之後再解鎖。有了這把鎖，同一時刻，只會有一個程序執行accpet()，這樣就不會有驚群問題了。accept_mutex是一個可控選項，我們可以顯示地關掉，預設是開啟的。

worker程序工作流程

當一個 worker 程序在 accept() 這個連線之後，就開始讀取請求，解析請求，處理請求，產生資料後，再返回給客戶端，最後才斷開連線，一個完整的請求。一個請求，完全由worker程序來處理，而且只會在一個worker程序中處理。

這樣做帶來的好處：

1、節省鎖帶來的開銷。每個worker程序都彼此獨立地工作，不共享任何資源，因此不需要鎖。同時在程式設計以及問題排查上時，也會方便很多。

2、獨立程序，減少風險。採用獨立的程序，可以讓互相之間不會影響，一個程序退出後，其它程序還在工作，服務不會中斷，master程序則很快重新啟動新的worker程序。當然，worker程序自己也能發生意外退出。

核心：Nginx採用的 IO多路複用模型epoll

多路複用，允許我們只在事件發生時才將控制返回給程式，而其他時候核心都掛起程序，隨時待命。

epoll通過在Linux核心中申請一個簡易的檔案系統（檔案系統一般用B+樹資料結構來實現），其工作流程分為三部分：

1、呼叫 int epoll_create(int size)建立一個epoll物件，核心會建立一個eventpoll結構體，用於存放通過epoll_ctl()向epoll物件中新增進來的事件，這些事件都會掛載在紅黑樹中。
2、呼叫 int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event) 在 epoll 物件中為 fd 註冊事件，所有新增到epoll中的事件都會與裝置驅動程式建立回撥關係，也就是說，當相應的事件發生時會呼叫這個sockfd的回撥方法，將sockfd新增到eventpoll 中的雙鏈表。
3、呼叫 int epoll_wait(int epfd, struct epoll_event * events, int maxevents, int timeout) 來等待事件的發生，timeout 為 -1 時，該呼叫會阻塞知道有事件發生

這樣，註冊好事件之後，只要有fd上事件發生，epoll_wait()就能檢測到並返回給使用者，使用者執行阻塞函式時就不會發生阻塞了。

epoll()在中核心維護一個連結串列，epoll_wait直接檢查連結串列是不是空就知道是否有檔案描述符準備好了。順便提一提，epoll與select、poll相比最大的優點是不會隨著sockfd數目增長而降低效率，使用select()時，核心採用輪訓的方法來檢視是否有fd準備好，其中的儲存sockfd的是類似陣列的資料結構fd_set，key 為 fd，value為0或者1（發生時間）。

能達到這種效果，是因為在核心實現中epoll是根據每 sockfd 上面的與裝置驅動程式建立起來的回撥函式實現的。那麼，某個sockfd上的事件發生時，與它對應的回撥函式就會被呼叫，將這個sockfd加入連結串列，其他處於“空閒的”狀態的則不會。在這點上，epoll 實現了一個"偽"AIO。

可以看出，因為一個程序裡只有一個執行緒，所以一個程序同時只能做一件事，但是可以通過不斷地切換來“同時”處理多個請求。

例子：Nginx 會註冊一個事件：“如果來自一個新客戶端的連線請求到來了，再通知我”，此後只有連線請求到來，伺服器才會執行 accept() 來接收請求。又比如向上遊伺服器（比如 PHP-FPM）轉發請求，並等待請求返回時，這個處理的 worker 不會在這阻塞，它會在傳送完請求後，註冊一個事件：“如果緩衝區接收到資料了，告訴我一聲，我再將它讀進來”，於是程序就空閒下來等待事件發生。

這樣，基於 多程序+epoll， Nginx 便能實現高併發。

for( ; ; )  //  無限迴圈
      {
          nfds = epoll_wait(epfd,events,20,500);  //  最長阻塞 500s
          for(i=0;i<nfds;++i)
          {
              if(events[i].data.fd==listenfd) //有新的連線
              {
                  connfd = accept(listenfd,(sockaddr *)&clientaddr, &clilen); //accept這個連線
                  ev.data.fd=connfd;
                 ev.events=EPOLLIN|EPOLLET;
                 epoll_ctl(epfd,EPOLL_CTL_ADD,connfd,&ev); //將新的fd新增到epoll的監聽佇列中
             }
             else if( events[i].events&EPOLLIN ) //接收到資料，讀socket
             {
                 n = read(sockfd, line, MAXLINE)) < 0    //讀
                 ev.data.ptr = md;     //md為自定義型別，新增資料
                 ev.events=EPOLLOUT|EPOLLET;
                 epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd,&ev);//修改識別符號，等待下一個迴圈時傳送資料，非同步處理的精髓
             }
             else if(events[i].events&EPOLLOUT) //有資料待發送，寫socket
             {
                 struct myepoll_data* md = (myepoll_data*)events[i].data.ptr;    //取資料
                 sockfd = md->fd;
                 send( sockfd, md->ptr, strlen((char*)md->ptr), 0 );        //傳送資料
                 ev.data.fd=sockfd;
                 ev.events=EPOLLIN|EPOLLET;
                 epoll_ctl(epfd,EPOLL_CTL_MOD,sockfd,&ev); //修改識別符號，等待下一個迴圈時接收資料
             }
             else
             {
                 //其他的處理
             }
         }
     }

Nginx 與 多程序模式 Apache 的比較：

事件驅動適合於I/O密集型服務，多程序或執行緒適合於CPU密集型服務：
1、Nginx能夠大量作為反向代理使用。
2、事件驅動伺服器，最適合做的就是這種I/O密集型工作，如反向代理，它在客戶端與WEB伺服器之間起一個數據中轉作用，純粹是I/O操作，自身並不涉及到複雜計算。因為程序在一個地方進行計算時，那麼這個程序就不能處理其他事件了。
3、Nginx只需要少量程序配合事件驅動，起幾個程序跑libevent，不像 Apache傳統多程序模型那樣動輒數百的程序數。
4、Nginx處理靜態檔案效果也很好，那是因為讀寫檔案和網路通訊其實都是I/O操作，處理過程是一樣的。

這裡僅將Nginx與傳統多程序工作模式下的Apache做比較，Apache也有事件驅動的工作模式。