基本的IO程式設計過程（包括網路IO和檔案IO）是，開啟檔案描述符（windows是handler，java是stream或channel），多路捕獲（Multiplexe，即select和poll和epoll）IO可讀寫的狀態，而後可以讀寫的檔案描述符進行IO讀寫，由於IO裝置速度和CPU記憶體比速度會慢，為了更好的利用CPU和記憶體，會開多執行緒，每個執行緒讀寫一個檔案描述符。

　　但C10K問題，讓我們意識到在超大數量的網路連線下，機器裝置和網路速度不再是瓶頸，瓶頸在於作業系統和IO應用程式的溝通協作的方式。

      舉個例子，一萬個socket連線過來，傳統的IO程式設計模型要開萬個執行緒來應對，還要注意，socket會關閉開啟，一萬個執行緒要不斷的關閉執行緒重建執行緒，資源都浪費在這上面了，我們算建立一個執行緒耗1M記憶體，1萬個執行緒機器至少要10G記憶體，這在IA-32的機器架構下基本是不可能的（要開PAE），現在x64架構才有可能舒服點，要知道，這僅僅是粗略算的記憶體消耗。別的資源呢？

     所以，高效能的網路程式設計（即IO程式設計），第一，需要鬆綁IO連線和應用程式執行緒的對應關係，這就是非阻塞（nonblocking）、非同步（asynchronous）的要求的由來（構造一個執行緒池，epoll監控到有數的fd，把fd傳入執行緒池，由這些worker thread來讀寫io）。第二，需要高效能的OS對IO裝置可讀寫（資料來了）的通知方式：從level-triggered notification到edge-triggered notification，關於這個通知方式，我們稍後談。

    需要注意非同步，不等於AIO（asynchronous IO），linux的AIO和java的AIO都是實現非同步的一種方式，都是渣

    針對前面說的這兩點，我們看看select和poll的問題

    這兩個函式都在每次呼叫的時候要求我們把需要監控（看看有沒有資料）的檔案描述符，通過陣列傳遞進入核心，核心每次都要掃描這些檔案描述符，去理解它們，建立一個檔案描述符和IO對應的陣列（實際核心工作會有好點的實現方式，但可以這麼理解先），以便IO來的時候，通知這些檔案描述符，進而通知到程序裡等待的這些select、poll。當有一萬個檔案描述符要監控的時候呢（一萬個網路連線）？這個工作效率是很低的，資源要求卻很高。

  我們看epoll

    epoll很巧妙，分為三個函式，第一個函式建立一個session類似的東西，第二函式告訴核心維持這個session，並把屬於session內的fd傳給核心，第三個函式epoll_wait是真正的監控多個檔案描述符函式，只需要告訴核心，我在等待哪個session，而session內的fd，核心早就分析過了，不再在每次epoll呼叫的時候分析，這就節省了核心大部分工作。這樣每次呼叫epoll，核心不再重新掃描fd陣列，因為我們維持了session。

    說道這裡，只有一個字，開源，贊，眾人拾柴火焰高，贊。

    epoll的效率還不僅僅體現在這裡，在核心通知方式上，也改進了，我們先看select和poll的通知方式，也就是level-triggered notification，核心在被DMA中斷，捕獲到IO裝置來資料後，本來只需要查詢這個資料屬於哪個檔案描述符，進而通知執行緒裡等待的函式即可，但是，select和poll要求核心在通知階段還要繼續再掃描一次剛才所建立的核心fd和io對應的那個陣列，因為應用程式可能沒有真正去讀上次通知有資料後的那些fd，應用程式上次沒讀，核心在這次select和poll呼叫的時候就得繼續通知，這個os和應用程式的溝通方式效率是低下的。只是方便程式設計而已（可以不去讀那個網路io，方正下次會繼續通知）。

    於是epoll設計了另外一種通知方式：edge-triggered notification，在這個模式下，io裝置來了資料，就只通知這些io裝置對應的fd，上次通知過的fd不再通知，核心不再掃描一大堆fd了。

    基於以上分析，我們可以看到epoll是專門針對大網路併發連線下的os和應用溝通協作上的一個設計，在linux下編網路伺服器，必然要採用這個，nginx、php的國產非同步框架swool、varnish，都是採用這個。

    注意還要開啟epoll的edge-triggered notification。而java的NIO和NIO.2都只是用了epoll，沒有開啟edge-triggered notification，所以不如JBoss的Netty。

    接下來我們談談AIO的問題，AIO希望的是，你select，poll，epoll都需要用一個函式去監控一大堆fd，那麼我AIO不需要了，你把fd告訴核心，你應用程式無需等待，核心會通過訊號等軟中斷告訴應用程式，資料來了，你直接讀了，所以，用了AIO可以廢棄select，poll，epoll。

    但linux的AIO的實現方式是核心和應用共享一片記憶體區域，應用通過檢測這個記憶體區域（避免呼叫nonblocking的read、write函式來測試是否來資料，因為即便呼叫nonblocking的read和write由於程序要切換使用者態和核心態，仍舊效率不高）來得知fd是否有資料，可是檢測記憶體區域畢竟不是實時的，你需要線上程裡構造一個監控記憶體的迴圈，設定sleep，總的效率不如epoll這樣的實時通知。所以，AIO是渣，適合低併發的IO操作。所以java7引入的NIO.2引入的AIO對高併發的網路IO設計程式來說，也是渣，只有Netty的epoll+edge-triggered notification最牛，能在linux讓應用和OS取得最高效率的溝通。

  注：非阻塞IO和非同步IO基本是一個意思，只是描述同一個東西的不同方面。

  In computer science, asynchronous I/O, or non-blocking I/O is a form of input/output processing that permits other processing to continue before thetransmission has finished.