網路I/O模型

人多了，就會有問題。web剛出現的時候，光顧的人很少。近年來網路應用規模逐漸擴大，應用的架構也需要隨之改變。C10k的問題，讓工程師們需要思考服務的效能與應用的併發能力。

網路應用需要處理的無非就是兩大類問題，網路I/O，資料計算。相對於後者，網路I/O的延遲，給應用帶來的效能瓶頸大於後者。網路I/O的模型大致有如下幾種：

• 同步模型（synchronous I/O）
  • 阻塞I/O（bloking I/O）
  • 非阻塞I/O（non-blocking I/O）
  • 多路複用I/O（multiplexing I/O）
  • 訊號驅動式I/O（signal-driven I/O）
• 非同步I/O（asynchronous I/O）

網路I/O的本質是socket的讀取，socket在linux系統被抽象為流，I/O可以理解為對流的操作。這個操作又分為兩個階段：

1. 等待流資料準備好。
2. 從核心向程序複製資料。

對於socket流而已，第一步通常涉及等待網路上的資料分組到達，然後被複制到核心的某個緩衝區。第二步把資料從核心緩衝區複製到應用程序緩衝區。

I/O模型

舉個簡單比喻，來了解這幾種模型。網路IO好比釣魚，等待魚上鉤就是網路中等待資料準備好的過程，魚上鉤了，把魚拉上岸就是核心複製資料階段。釣魚的人就是一個應用程序。

阻塞I/O（bloking I/O）

阻塞I/O是最流行的I/O模型。它符合人們最常見的思考邏輯。阻塞就是程序 "被" 休息, CPU處理其它程序去了。在網路I/O的時候，程序發起recvform系統呼叫，然後程序就被阻塞了，什麼也不幹，直到資料準備好，並且將資料從核心複製到使用者程序，最後程序再處理資料，在等待資料到處理資料的兩個階段，整個程序都被阻塞。不能處理別的網路I/O。大致如下圖：

這就好比我們去釣魚，拋竿之後就一直在岸邊等，直到等待魚上鉤。然後再一次拋竿，等待下一條魚上鉤，等待的時候，什麼事情也不做，大概會胡思亂想吧。

非阻塞I/O（non-bloking I/O）

在網路I/O時候，非阻塞I/O也會進行recvform系統呼叫，檢查資料是否準備好，與阻塞I/O不一樣，"非阻塞將大的整片時間的阻塞分成N多的小的阻塞, 所以程序不斷地有機會 '被' CPU光顧"。

也就是說非阻塞的recvform系統呼叫呼叫之後，程序並沒有被阻塞，核心馬上返回給程序，如果資料還沒準備好，此時會返回一個error。程序在返回之後，可以乾點別的事情，然後再發起recvform系統呼叫。重複上面的過程，迴圈往復的進行recvform系統呼叫。這個過程通常被稱之為輪詢

我們再用釣魚的方式來類別，當我們拋竿入水之後，就看下魚漂是否有動靜，如果沒有魚上鉤，就去幹點別的事情，比如再挖幾條蚯蚓。然後不久又來看看魚漂是否有魚上鉤。這樣往返的檢查又離開，直到魚上鉤，再進行處理。

多路複用I/O（multiplexing I/O）

可以看出，由於非阻塞的呼叫，輪詢佔據了很大一部分過程，輪詢會消耗大量的CPU時間。結合前面兩種模式。如果輪詢不是程序的使用者態，而是有人幫忙就好了。多路複用正好處理這樣的問題。

多路複用有兩個特別的系統呼叫select或poll。select呼叫是核心級別的，select輪詢相對非阻塞的輪詢的區別在於---前者可以等待多個socket，當其中任何一個socket的資料準好了，就能返回進行可讀，然後程序再進行recvform系統呼叫，將資料由核心拷貝到使用者程序，當然這個過程是阻塞的。多路複用有兩種阻塞，select或poll呼叫之後，會阻塞程序，與第一種阻塞不同在於，此時的select不是等到socket資料全部到達再處理, 而是有了一部分資料就會呼叫使用者程序來處理，也可以理解為"非阻塞"吧。

對於多路複用，也就是輪詢多個socket。釣魚的時候，我們僱了一個幫手，他可以同時拋下多個釣魚竿，任何一杆的魚一上鉤，他就會拉桿。他只負責幫我們釣魚，並不會幫我們處理，所以我們還得在一幫等著，等他把收杆。我們再處理魚。多路複用既然可以處理多個I/O，也就帶來了新的問題，多個I/O之間的順序變得不確定了，當然也可以針對不同的編號。

瞭解了前面三種模式，在使用者程序進行系統呼叫的時候，他們在等待資料到來的時候，處理的方式不一樣，直接等待，輪詢，select或poll輪詢，第一個過程有的阻塞，有的不阻塞，有的可以阻塞又可以不阻塞。當時第二個過程都是阻塞的。從整個I/O過程來看，他們都是順序執行的，因此可以歸為同步模型(asynchronous)。都是程序主動向核心檢查。

非同步I/O（asynchronous I/O）

相對於同步I/O，非同步I/O不是順序執行。使用者程序進行aio_read系統呼叫之後，無論核心資料是否準備好，都會直接返回給使用者程序，然後使用者態程序可以去做別的事情。等到socket資料準備好了，核心直接複製資料給程序，然後從核心向程序傳送通知。I/O兩個階段，程序都是非阻塞的。

比之前的釣魚方式不一樣，這一次我們僱了一個釣魚高手。他不僅會釣魚，還會在魚上鉤之後給我們發簡訊，通知我們魚已經準備好了。我們只要委託他去拋竿，然後就能跑去幹別的事情了，直到他的簡訊。我們再回來處理已經上岸的魚。

同步和非同步的區別

通過對上述幾種模型的討論，需要區分阻塞和非阻塞，同步和非同步。他們其實是兩組概念。區別前一組比較容易，後一種往往容易和前面混合。在我看來，所謂同步就是在整個I/O過程。尤其是拷貝資料的過程是阻塞程序的，並且都是應用程序態去檢查核心態。而非同步則是整個過程I/O過程使用者程序都是非阻塞的，並且當拷貝資料的時是由核心傳送通知給使用者程序。

對於同步模型，主要是第一階段處理方法不一樣。而非同步模型，兩個階段都不一樣。這裡我們忽略了訊號驅動模式。這幾個名詞還是容易讓人迷惑，只有同步模型才考慮阻塞和非阻塞，因為非同步肯定是非阻塞，非同步非阻塞的說法感覺畫蛇添足。