關於並發你真的了解嗎？（一）

前言：對於很多工作時間短或者編程經驗不足的程序員來說，大多數會覺得並發這個詞離自己太遙遠，之所以知道並發也不過是因為受那些技術大佬成天討論並發等問題耳濡目染罷了。更有甚者，一些所謂的“項目經理”。一邊侃侃而談“大數據”，“高並發處理”等等高級問題，一邊理所當然的寫出Select * 或者是毫無規範性的性能極差的代碼。當然這也跟國內的大環境有一定的關系，導致很多程序員僅僅只想滿足功能完成任務即可。實際上並發的處理是和我們日常工作息息相關的無論初級，中級，高級程序員。本文將從整體架構和日常工作，兩個角度來分別講解關於並發的兩三事。只想了解日常工作中如何規範化的童鞋下拉到自己關心的部分查看閱讀。

說道並發，首先你需要了解幾個詞語：

IIS連接數、IIS並發連接數、IIS最大並發工作線程數、應用程序池的隊列長度、最大工作進程數調試

IIS連接數

一般購買過虛擬主機的朋友都熟悉購買時，會限制IIS連接數，這邊先從普通不懂代碼用戶角度理解IIS連接數

顧名思義即為IIS服務器可以同時容納客戶請求的最高連接數，準確的說應該叫“IIS限制連接數”

這邊客戶請求的連接內容包括：

1、網站html請求，html中的圖片資源，html中的腳本資源，其他需要連接下載的資源等等,任何一個資源的請求即一次連接（雖然有的資源請求連接響應很快）

2、如果網頁采用框架（框架內部嵌套網頁請求），那麽一個框架即一次連接

3、如果網頁彈出窗口（窗口內部嵌套網頁請求），那麽一個窗口一個連接

限制連接數即為虛擬主機供應公開的IIS連接數標準，如果購買的IIS連接數為50,那麽我們不得不考慮網站的內容框架和訪問量

如果網站圖片夠多，彈窗窗口隨意（可能連時間選擇框、簡單條件篩選框也用彈出新窗口），加上不得已的打開新頁面瀏覽內容，那麽僅僅能容忍10個人同時操作也很正常，我不會把這個操作描述為很多網站說的“10同時在線”，這很容易讓人誤解，在用戶的一次請求（表面上可能是刷新一次網頁，實際上內部請求不止一次，事實上很少只有一次）都完成得到服務器響應完畢之後，連接全部會被釋放，當然在你看到展示的頁面之前，內部嵌套如果有請求圖片等連接請求，連接會早早的被釋放

事實上，很多企業門戶網站訪問量低的驚人，IIS連接數為50也是綽綽有余了

IIS並發連接數

其實，普通用戶常說的“IIS鏈接數”就是這邊的“最大並發連接數” ，我這邊IIS默認最大並發連接數為：4294967295，這是一個很驚人的數字，難道這代表著網站能具有並發執行連接數為4294967295的能力？

這邊我做幾個假設：

1、很多虛擬主機供應商所說的無並發連接數限制真的成立嗎？

2、每個連接的處理，IIS都會開啟一個線程去處理，假設這個處理方式成立，那麽4294967295個並發連接請求來了是否IIS會立即啟動4294967295個線程去處理？

對於1：很顯然不成立，最大並發連接數的設置絕對有上限

對於2： 這是很多朋友的誤區，假設4294967295並發連接同時來了，IIS不會立即啟動4294967295個線程去處理，因為這不現實，對於處理連接，IIS是有“ 最大並發工作線程數 ”限制的，這是我下面要介紹的，我從一些資料上查閱到， 該數字跟操作系統 相關，win7 系統的IIS的值是10（或者其他不確定），VS2012自帶的IIS Express的值是80。對於w indows 服務器版本的系統 的具體值不清楚，即4294967295個並發連接來了後，（這邊以win7下的10為例），iis第一時間只能啟動10個工作線程去處理，那麽其他42949672 85 必須排隊，排隊對用戶的體驗來說就是網頁正在加載，但是什麽都不顯示，然後此時購買了據虛擬主機供應商所說的無並發連接數限制的客戶就要開始狂暴了，為何購買了所謂的“無限並發連接數”，還是會一直在加載的情況，我只能說這就是IIS處理能力有限的問題了

當然服務器沒有直接返回“ HTTP Error 503. The service is unavailable.”應該也算是一些你花更多錢的安慰吧，因為你只購買了IIS連接數為50的話，那麽第50+1個連接請求操作得到的就直接是“HTTP Error 503. The service is unavailable.”了

另外，如果web服務器的硬件設備夠爽朗（牛逼），那麽IIS的工作線程也會處理的更快，那麽響應的用戶等待的時間也會更短（前提是你的IIS連接數夠大哦，否則就直接503了哦）

總的來說，最大並發連接數，影響了排隊的數量，

很多時候需要我們評估自己的網站的最大並發連接數，然後來進行設置最佳數量

IIS最大並發工作線程數

這個在上面有所涉及，簡單的說就是IIS在並發連接請求過來時的處理機制，它會更機智的以某個數量級為單位來分批處理，讓沒有處理連接請求排隊等待，用戶瀏覽器中對於排隊等待的響應就是“正在加載”，這比頁面直接顯示“ HTTP Error 503. The service is unavailable. ”更加能讓人接受，但是切勿氣急敗壞的怒點刷新按鈕，因為點的越多，你的請求在排隊隊伍中越靠後。

當然很多朋友會說，為什麽我有時候第一次刷不出來，重新多刷一次內容就出來了？

1、頁面腳本哪個地方下載或者處理出了問題，導致頁面顯示異常或者直接不顯示

2、你重新刷新的那個秒級別的操作，web服務器更快速的已經處理好了其他隊列的請求或者他人放棄了對web服務器連接請求的操作

3、路由或者寬帶網絡運營商問題（不穩定）

4、瀏覽器或者本身電腦問題

那麽現在問題來了，最大並發連接數，影響了排隊的數量，那麽有沒有進步影響排隊數量的設置? 有的：隊列長度

隊列長度

假設最大連接數設置為100，1000個並發連接請求過來了，首先900直接返回給客戶“HTTP Error 503. The service is unavailable.”

然後IIS先啟動（假設最大並發工作線程數為10）10個線程處理請求，其他90個進入排隊狀態，如果此時如下操作：

找到網站的所屬應用程序池，“右擊高級設置”->"常規"->"列隊長度"，設置為20

那麽實際情況又會變成什麽樣子呢？只會有20個進入排隊狀態了，70（90-20）個請求也會立刻返回“HTTP Error 503. The service is unavailable”

iis默認隊列長度設置是1000，範圍在10-65535 之間

最大工作進程數

應用程序池一般默認最大工作進程數為1，可以找到網站的所屬應用程序池，“右擊高級設置”->"進程模型"->"最大工作進程數" 來修改設置

如果這個值大於 1，那麽當有連接請求時會啟動多個新的工作進程實例，可啟動的最多進程數為您所指定的最大工作進程數，後續更多的請求將以循環的方式發送至工作進程，這個每個工作進程都能承擔負載一些連接請求，當然是以消耗cpu等硬件做代價，這是值得的，如果web服務器cpu使用率很低但是又需要更高效的處理並發連接請求，為何不這麽做呢？

如果網站中用到了依賴進程的Session和Cache等對象，則不能保存在服務器內存中，存儲方式選用StateServer或者SQLServer會更好，另外多個工作進程切換時會有上下文復制，這也是資源消耗更多地方

最大工作進程數調試

最大工作進程數的設置方法：（拷貝）按照每工作進程能承載30個並發的原則來確定應用程序池的最大工作進程數。同時要註意，每個工作進程大約會占用200M左右的系統內存，在設置最大工作進程數的時候，要主要最大工作進程數與200M的乘積不要超過系統最大可用內存數。一般情況下，建議按照每次增加5個工作進程數的方式對最大工作進程數進行調整，調整完後對網站觀察一段時間，如依然無法滿足要求，再繼續增加5個工作進程數。

IIS連接數、IIS並發連接數、IIS最大並發工作線程數、應用程序池的隊列長度