1. 程式人生 > >在瀏覽器中輸入URL並回車後都發生了什麽?

在瀏覽器中輸入URL並回車後都發生了什麽?

跟蹤 .org 每一個 快照 女朋友 div 最大 iphone 記錄

1.解析URL

________________________________________________________________________

關於URL:

URL(Universal Resource Locator):統一資源定位符。俗稱網頁地址或者網址。

URL用來表示某個資源的地址。(通過俗稱就能看出來)

URL主要由以下幾個部分組成:

a.傳輸協議

b.服務器

c.域名

d.端口

e.虛擬目錄

f.文件名

g.錨

h.參數

也就是說,通常一個URL是像下面這樣

技術分享圖片

連起來就是:http://www.aspxfans.com:8080/news/index.asp?boardID=5&ID=24618&page=1#name

上面的鏈接有幾個要註意的地方:“;” 和“/”的使用,80端口默認不顯示,“?” 到“#”之間跟著參數,多個參數使用“&”連接,“#”後面跟著錨。

___________________________________________________________________________________________________________________________________________________________________

現在來討論URL解析,當在瀏覽器中輸入URL後,瀏覽器首先對拿到的URL進行識別,抽取出域名字段。

2. DNS解析

DNS解析(域名解析),DNS實際上是一個域名和IP對應的數據庫。

IP地址往都難以記住,但機器間互相只認IP地址,於是人們發明了域名,讓域名與IP地址之間一一對應,它們之間的轉換工作稱為域名解析,域名解析需要由專門的域名解析服務器來完成,整個過程是自動進行的。

可以在瀏覽器中輸入IP地址瀏覽網站,也可以輸入域名查詢網站,雖然得出的內容是一樣的但是調用的過程不一樣,輸入IP地址是直接從主機上調用內容,輸入域名是通過域名解析服務器指向對應的主機的IP地址,再從主機調用網站的內容。

在進行DNS解析時,會經歷以下步驟:

查詢瀏覽器緩存(瀏覽器會緩存之前拿到的DNS 2-30分鐘時間),如果沒有找到,

檢查系統緩存,檢查hosts文件,這個文件保存了一些以前訪問過的網站的域名和IP的數據。它就像是一個本地的數據庫。如果找到就可以直接獲取目標主機的IP地址了。沒有找到的話,需要

檢查路由器緩存,路由器有自己的DNS緩存,可能就包括了這在查詢的內容;如果沒有,要

查詢ISP DNS 緩存:ISP服務商DNS緩存(本地服務器緩存)那裏可能有相關的內容,如果還不行的話,需要,

遞歸查詢:從根域名服務器到頂級域名服務器再到極限域名服務器依次搜索哦對應目標域名的IP。

技術分享圖片

通過以上的查找,就可以獲取到域名對應的IP了。接下來就是向該IP地址定位的HTTP服務器發起TCP連接。

3. 瀏覽器與網站建立TCP連接(三次握手)

第一次握手:客戶端向服務器端發送請求(SYN=1) 等待服務器確認;

第二次握手:服務器收到請求並確認,回復一個指令(SYN=1,ACK=1);

第三次握手:客戶端收到服務器的回復指令並返回確認(ACK=1)。

技術分享圖片

通過三次握手,建立了客戶端和服務器之間的連接,現在可以請求和傳輸數據了。

4.請求和傳輸數據

比如要通過get請求訪問“http://www.dydh.org/”,通過抓包可以看到:

請求網址(url):http://www.dydh.org/

請求方法:GET

遠程地址:IP

狀態碼:200 OK

Http版本: HTTP/1.1

請求頭: ...

響應頭: ...

技術分享圖片

註意響應頭中有一個:Set-Cookie:"PHPSESSID=c882giens9f7d3oglcakhrl994; path=/",說明瀏覽器中沒有關於這個網站的cookie信息。

當我們下一次訪問相同的網站時:

技術分享圖片

可以看到,請求頭中包含了這個cookie信息,

Cookie:"PHPSESSID=c882giens9f7d3oglcakhrl994; CNZZDATA1253283365=1870471808-1473694656-%7C1473694656"

cookie可以用來保存一些有用的信息:Cookies如果是首次訪問,會提示服務器建立用戶緩存信息,如果不是,可以利用Cookies對應鍵值,找到相應緩存,緩存裏面存放著用戶名,密碼和一些用戶設置項。

通過這種GET請求,和服務器的響應。可以將服務器上的目標文件傳輸到瀏覽器進行渲染。

5.瀏覽器渲染頁面

客戶端拿到服務器端傳輸來的文件,找到HTML和MIME文件,通過MIME文件,瀏覽器知道要用頁面渲染引擎來處理HTML文件。

a.瀏覽器會解析html源碼,然後創建一個 DOM樹。

在DOM樹中,每一個HTML標簽都有一個對應的節點,並且每一個文本也都會有一個對應的文本節點。

b.瀏覽器解析CSS代碼,計算出最終的樣式數據,形成css對象模型CSSOM。

首先會忽略非法的CSS代碼,之後按照瀏覽器默認設置——用戶設置——外鏈樣式——內聯樣式——HTML中的style樣式順序進行渲染。

c.利用DOM和CSSOM構建一個渲染樹(rendering tree)。
渲染樹和DOM樹有點像,但是是有區別的。

DOM樹完全和html標簽一一對應,但是渲染樹會忽略掉不需要渲染的元素,比如head、display:none的元素等。

而且一大段文本中的每一個行在渲染樹中都是獨立的一個節點。
渲染樹中的每一個節點都存儲有對應的css屬性。

d.瀏覽器就根據渲染樹直接把頁面繪制到屏幕上。

———————————————————————————————————————————————————

參考鏈接:

https://www.zhihu.com/question/34873227

http://blog.csdn.net/qq991029781/article/details/50938475

http://blog.csdn.net/lihongxun945/article/details/37830667

http://www.myexception.cn/go/1860953.html

http://www.nowcoder.com/discuss/3853?pos=264&type=1&order=0

http://www.cnblogs.com/xiaohuochai/p/4750444.html

http://baike.so.com/doc/1578352-1668460.html

http://www.cnblogs.com/simonbaker/p/4253832.html

https://www.cnblogs.com/tisikcci/p/5866753.html

原文:http://igoro.com/archive/what-really-happens-when-you-navigate-to-a-url/

作為一個軟件開發者,你一定會對網絡應用如何工作有一個完整的層次化的認知,同樣這裏也包括這些應用所用到的技術:像瀏覽器,HTTP,HTML,網絡服務器,需求處理等等。

本文將更深入的研究當你輸入一個網址的時候,後臺到底發生了一件件什麽樣的事~

1. 首先嘛,你得在瀏覽器裏輸入要網址:

技術分享圖片

2. 瀏覽器查找域名的IP地址

技術分享圖片

導航的第一步是通過訪問的域名找出其IP地址。DNS查找過程如下:

  • 瀏覽器緩存 – 瀏覽器會緩存DNS記錄一段時間。 有趣的是,操作系統沒有告訴瀏覽器儲存DNS記錄的時間,這樣不同瀏覽器會儲存個自固定的一個時間(2分鐘到30分鐘不等)。
  • 系統緩存 – 如果在瀏覽器緩存裏沒有找到需要的記錄,瀏覽器會做一個系統調用(windows裏是gethostbyname)。這樣便可獲得系統緩存中的記錄。
  • 路由器緩存 – 接著,前面的查詢請求發向路由器,它一般會有自己的DNS緩存。
  • ISP DNS 緩存 – 接下來要check的就是ISP緩存DNS的服務器。在這一般都能找到相應的緩存記錄。
  • 遞歸搜索 – 你的ISP的DNS服務器從跟域名服務器開始進行遞歸搜索,從.com頂級域名服務器到Facebook的域名服務器。一般DNS服務器的緩存中會有.com域名服務器中的域名,所以到頂級服務器的匹配過程不是那麽必要了。

DNS遞歸查找如下圖所示:

技術分享圖片

DNS有一點令人擔憂,這就是像wikipedia.org 或者 facebook.com這樣的整個域名看上去只是對應一個單獨的IP地址。還好,有幾種方法可以消除這個瓶頸:

  • 循環 DNS 是DNS查找時返回多個IP時的解決方案。舉例來說,Facebook.com實際上就對應了四個IP地址。
  • 負載平衡器 是以一個特定IP地址進行偵聽並將網絡請求轉發到集群服務器上的硬件設備。 一些大型的站點一般都會使用這種昂貴的高性能負載平衡器。
  • 地理 DNS 根據用戶所處的地理位置,通過把域名映射到多個不同的IP地址提高可擴展性。這樣不同的服務器不能夠更新同步狀態,但映射靜態內容的話非常好。
  • Anycast 是一個IP地址映射多個物理主機的路由技術。 美中不足,Anycast與TCP協議適應的不是很好,所以很少應用在那些方案中。

大多數DNS服務器使用Anycast來獲得高效低延遲的DNS查找。

3. 瀏覽器給web服務器發送一個HTTP請求

技術分享圖片

因為像Facebook主頁這樣的動態頁面,打開後在瀏覽器緩存中很快甚至馬上就會過期,毫無疑問他們不能從中讀取。

所以,瀏覽器將把一下請求發送到Facebook所在的服務器:

GET http://facebook.com/ HTTP/1.1
Accept: application/x-ms-application, image/jpeg, application/xaml+xml, [...]
User-Agent: Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; [...]
Accept-Encoding: gzip, deflate
Connection: Keep-Alive
Host: facebook.com
Cookie: datr=1265876274-[...]; locale=en_US; lsd=WW[...]; c_user=2101[...]

GET 這個請求定義了要讀取的URL: “http://facebook.com/”。 瀏覽器自身定義 (User-Agent 頭), 和它希望接受什麽類型的相應 (Accept andAccept-Encoding 頭). Connection頭要求服務器為了後邊的請求不要關閉TCP連接。

請求中也包含瀏覽器存儲的該域名的cookies。可能你已經知道,在不同頁面請求當中,cookies是與跟蹤一個網站狀態相匹配的鍵值。這樣cookies會存儲登錄用戶名,服務器分配的密碼和一些用戶設置等。Cookies會以文本文檔形式存儲在客戶機裏,每次請求時發送給服務器。

用來看原始HTTP請求及其相應的工具很多。作者比較喜歡使用fiddler,當然也有像FireBug這樣其他的工具。這些軟件在網站優化時會幫上很大忙。

除了獲取請求,還有一種是發送請求,它常在提交表單用到。發送請求通過URL傳遞其參數(e.g.: http://robozzle.com/puzzle.aspx?id=85)。發送請求在請求正文頭之後發送其參數。

像“http://facebook.com/”中的斜杠是至關重要的。這種情況下,瀏覽器能安全的添加斜杠。而像“http: //example.com/folderOrFile”這樣的地址,因為瀏覽器不清楚folderOrFile到底是文件夾還是文件,所以不能自動添加 斜杠。這時,瀏覽器就不加斜杠直接訪問地址,服務器會響應一個重定向,結果造成一次不必要的握手。

4. facebook服務的永久重定向響應

技術分享圖片

圖中所示為Facebook服務器發回給瀏覽器的響應:

HTTP/1.1 301 Moved Permanently
Cache-Control: private, no-store, no-cache, must-revalidate, post-check=0,
pre-check=0
Expires: Sat, 01 Jan 2000 00:00:00 GMT
Location: http://www.facebook.com/
P3P: CP="DSP LAW"
Pragma: no-cache
Set-Cookie: made_write_conn=deleted; expires=Thu, 12-Feb-2009 05:09:50 GMT;
path=/; domain=.facebook.com; httponly
Content-Type: text/html; charset=utf-8
X-Cnection: close
Date: Fri, 12 Feb 2010 05:09:51 GMT
Content-Length: 0

服務器給瀏覽器響應一個301永久重定向響應,這樣瀏覽器就會訪問“http://www.facebook.com/” 而非“http://facebook.com/”。

為什麽服務器一定要重定向而不是直接發會用戶想看的網頁內容呢?這個問題有好多有意思的答案。

其中一個原因跟搜索引擎排名有 關。你看,如果一個頁面有兩個地址,就像http://www.igoro.com/ 和http://igoro.com/,搜索引擎會認為它們是兩個網站,結果造成每一個的搜索鏈接都減少從而降低排名。而搜索引擎知道301永久重定向是 什麽意思,這樣就會把訪問帶www的和不帶www的地址歸到同一個網站排名下。

還有一個是用不同的地址會造成緩存友好性變差。當一個頁面有好幾個名字時,它可能會在緩存裏出現好幾次。

5. 瀏覽器跟蹤重定向地址

技術分享圖片

現在,瀏覽器知道了“http://www.facebook.com/”才是要訪問的正確地址,所以它會發送另一個獲取請求:

GET http://www.facebook.com/ HTTP/1.1
Accept: application/x-ms-application, image/jpeg, application/xaml+xml, [...]
Accept-Language: en-US
User-Agent: Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.1; WOW64; [...]
Accept-Encoding: gzip, deflate
Connection: Keep-Alive
Cookie: lsd=XW[...]; c_user=21[...]; x-referer=[...]
Host: www.facebook.com

頭信息以之前請求中的意義相同。

6. 服務器“處理”請求

技術分享圖片

服務器接收到獲取請求,然後處理並返回一個響應。

這表面上看起來是一個順向的任務,但其實這中間發生了很多有意思的東西- 就像作者博客這樣簡單的網站,何況像facebook那樣訪問量大的網站呢!

  • Web 服務器軟件
    web服務器軟件(像IIS和阿帕奇)接收到HTTP請求,然後確定執行什麽請求處理來處理它。請求處理就是一個能夠讀懂請求並且能生成HTML來進行響應的程序(像ASP.NET,PHP,RUBY...)。

    舉 個最簡單的例子,需求處理可以以映射網站地址結構的文件層次存儲。像http://example.com/folder1/page1.aspx這個地 址會映射/httpdocs/folder1/page1.aspx這個文件。web服務器軟件可以設置成為地址人工的對應請求處理,這樣 page1.aspx的發布地址就可以是http://example.com/folder1/page1。

  • 請求處理
    請求處理閱讀請求及它的參數和cookies。它會讀取也可能更新一些數據,並講數據存儲在服務器上。然後,需求處理會生成一個HTML響應。

所 有動態網站都面臨一個有意思的難點 -如何存儲數據。小網站一半都會有一個SQL數據庫來存儲數據,存儲大量數據和/或訪問量大的網站不得不找一些辦法把數據庫分配到多臺機器上。解決方案 有:sharding (基於主鍵值講數據表分散到多個數據庫中),復制,利用弱語義一致性的簡化數據庫。

委 托工作給批處理是一個廉價保持數據更新的技術。舉例來講,Fackbook得及時更新新聞feed,但數據支持下的“你可能認識的人”功能只需要每晚更新 (作者猜測是這樣的,改功能如何完善不得而知)。批處理作業更新會導致一些不太重要的數據陳舊,但能使數據更新耕作更快更簡潔。

7. 服務器發回一個HTML響應

技術分享圖片

圖中為服務器生成並返回的響應:

HTTP/1.1 200 OK
Cache-Control: private, no-store, no-cache, must-revalidate, post-check=0,
pre-check=0
Expires: Sat, 01 Jan 2000 00:00:00 GMT
P3P: CP="DSP LAW"
Pragma: no-cache
Content-Encoding: gzip
Content-Type: text/html; charset=utf-8
X-Cnection: close
Transfer-Encoding: chunked
Date: Fri, 12 Feb 2010 09:05:55 GMT

2b3Tn@[...]

整個響應大小為35kB,其中大部分在整理後以blob類型傳輸。

內容編碼頭告訴瀏覽器整個響應體用gzip算法進行壓縮。解壓blob塊後,你可以看到如下期望的HTML:

<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Strict//EN"    
"http://www.w3.org/TR/xhtml1/DTD/xhtml1-strict.dtd">
<html xmlns="http://www.w3.org/1999/xhtml" xml:lang="en"
lang="en" id="facebook" class=" no_js">
<head>
<meta http-equiv="Content-type" content="text/html; charset=utf-8" />
<meta http-equiv="Content-language" content="en" />
...

關於壓縮,頭信息說明了是否緩存這個頁面,如果緩存的話如何去做,有什麽cookies要去設置(前面這個響應裏沒有這點)和隱私信息等等。

請註意報頭中把Content-type設置為“text/html”。報頭讓瀏覽器將該響應內容以HTML形式呈現,而不是以文件形式下載它。瀏覽器會根據報頭信息決定如何解釋該響應,不過同時也會考慮像URL擴展內容等其他因素。

8. 瀏覽器開始顯示HTML

在瀏覽器沒有完整接受全部HTML文檔時,它就已經開始顯示這個頁面了:

技術分享圖片

9. 瀏覽器發送獲取嵌入在HTML中的對象

技術分享圖片

在瀏覽器顯示HTML時,它會註意到需要獲取其他地址內容的標簽。這時,瀏覽器會發送一個獲取請求來重新獲得這些文件。

下面是幾個我們訪問facebook.com時需要重獲取的幾個URL:

  • 圖片
    http://static.ak.fbcdn.net/rsrc.php/z12E0/hash/8q2anwu7.gif
    http://static.ak.fbcdn.net/rsrc.php/zBS5C/hash/7hwy7at6.gif
  • CSS 式樣表
    http://static.ak.fbcdn.net/rsrc.php/z448Z/hash/2plh8s4n.css
    http://static.ak.fbcdn.net/rsrc.php/zANE1/hash/cvtutcee.css
  • JavaScript 文件
    http://static.ak.fbcdn.net/rsrc.php/zEMOA/hash/c8yzb6ub.js
    http://static.ak.fbcdn.net/rsrc.php/z6R9L/hash/cq2lgbs8.js

這些地址都要經歷一個和HTML讀取類似的過程。所以瀏覽器會在DNS中查找這些域名,發送請求,重定向等等...

但 不像動態頁面那樣,靜態文件會允許瀏覽器對其進行緩存。有的文件可能會不需要與服務器通訊,而從緩存中直接讀取。服務器的響應中包含了靜態文件保存的期限 信息,所以瀏覽器知道要把它們緩存多長時間。還有,每個響應都可能包含像版本號一樣工作的ETag頭(被請求變量的實體值),如果瀏覽器觀察到文件的版本 ETag信息已經存在,就馬上停止這個文件的傳輸。

試著猜猜看“fbcdn.net”在地址中代表什麽?聰明的答案是"Facebook內容分發網絡"。Facebook利用內容分發網絡(CDN)分發像圖片,CSS表和JavaScript文件這些靜態文件。所以,這些文件會在全球很多CDN的數據中心中留下備份。

靜態內容往往代表站點的帶寬大小,也能通過CDN輕松的復制。通常網站會使用第三方的CDN。例如,Facebook的靜態文件由最大的CDN提供商Akamai來托管。

舉例來講,當你試著ping static.ak.fbcdn.net的時候,可能會從某個akamai.net服務器上獲得響應。有意思的是,當你同樣再ping一次的時候,響應的服務器可能就不一樣,這說明幕後的負載平衡開始起作用了。

10. 瀏覽器發送異步(AJAX)請求

技術分享圖片

在Web 2.0偉大精神的指引下,頁面顯示完成後客戶端仍與服務器端保持著聯系。

以 Facebook聊天功能為例,它會持續與服務器保持聯系來及時更新你那些亮亮灰灰的好友狀態。為了更新這些頭像亮著的好友狀態,在瀏覽器中執行的 JavaScript代碼會給服務器發送異步請求。這個異步請求發送給特定的地址,它是一個按照程式構造的獲取或發送請求。還是在Facebook這個例 子中,客戶端發送給http://www.facebook.com/ajax/chat/buddy_list.php一個發布請求來獲取你好友裏哪個 在線的狀態信息。

提起這個模式,就必須要講講"AJAX"-- “異步JavaScript 和 XML”,雖然服務器為什麽用XML格式來進行響應也沒有個一清二白的原因。再舉個例子吧,對於異步請求,Facebook會返回一些JavaScript的代碼片段。

除了其他,fiddler這個工具能夠讓你看到瀏覽器發送的異步請求。事實上,你不僅可以被動的做為這些請求的看客,還能主動出擊修改和重新發送它們。AJAX請求這麽容易被蒙,可著實讓那些計分的在線遊戲開發者們郁悶的了。(當然,可別那樣騙人家~)

Facebook聊天功能提供了關於AJAX一個有意思的問題案例:把數據從服務器端推送到客戶端。因為HTTP是一個請求-響應協議,所以聊天服務器不能把新消息發給客戶。取而代之的是客戶端不得不隔幾秒就輪詢下服務器端看自己有沒有新消息。

這些情況發生時長輪詢是個減輕服務器負載挺有趣的技術。如果當被輪詢時服務器沒有新消息,它就不理這個客戶端。而當尚未超時的情況下收到了該客戶的新消息,服務器就會找到未完成的請求,把新消息做為響應返回給客戶端。

總結一下

希望看了本文,你能明白不同的網絡模塊是如何協同工作的

https://www.cnblogs.com/qxzy/p/5493012.html

導讀

當你在瀏覽器上,指尖輕輕輸入 www.taobao.com 以後發生了什麽?本文從你按下瀏覽器的確定鍵開始分析,一直到你如何找到商品結束。適合各類讀者了解你僅僅訪問一次淘寶的首頁,所涉及到的技術和系統規模,本文作者名叫孫放,著於他在淘寶實習期間。

你發現快要過節了,於是想給你的男/女朋友買點兒禮物,你打開了淘寶。下面來看看,當你在瀏覽器輕輕www.taobao.com 以後發生了什麽?

首先你的瀏覽器查詢了DNS服務器(註:能夠使人更方便的訪問互聯網,而不用去記住能夠被機器直接讀取的IP地址,例如192.168.1.1),現在DNS服務器將www.taobao.com轉換成IP地址,機器能直接讀取了。

不過瀏覽器發現,在不同的地區或者不同的網絡(電信、聯通、移動)的情況下,轉換後的IP地址很可能是不一樣的,這首先涉及到負載均衡(註:相當於幾萬人的大學,一個食堂不夠用,於是學校弄了五個食堂來服務所有的同學,這就叫負載均衡)。第一步,通過DNS解析域名時將你的訪問分配到不同的入口,同時盡可能保證你所訪問的入口是所有入口中可能較快的一個。

好了,現在你通過這個入口成功的訪問了www.taobao.com的實際的入口IP地址。這時你產生了一個PV(註: Page View,一次頁面訪問),每日每個網站的總PV量是形容一個網站規模的重要指標。淘寶網全網在平日非促銷期間的PV大概是16-25億之間。同時作為一個獨立的用戶,你這次訪問淘寶網的所有頁面,均算作一個UV(註:Unique Visitor用戶訪問)。賣火車票的12306.cn的日PV量最高峰在10億左右,而UV量卻遠小於淘寶網十余倍,這其中的原因我相信大家都會知道。(註:因為頻繁刷新)

因為同一時刻訪問www.taobao.com的人數過於巨大,所以即便是淘寶首頁頁面的服務器,也不可能僅有一臺。僅用於生成www.taobao.com首頁的服務器就可能有成百上千臺,那麽你的一次訪問時生成頁面給你看的任務便會被分配給其中一臺服務器完成。(註:相當於學校有5個食堂,二食堂3窗口老是爆滿,因為打菜的是個萌妹子。)

這個過程要保證公正、公平、平均(註:這成百上千臺服務器每臺負擔的用戶數要差不多,就像食堂不能顛勺),這一很復雜的過程是由幾個系統配合完成,其中最關鍵的便是LVS(Linux Virtual Server),世界上最流行的負載均衡系統之一,正是由目前在淘寶網供職的章文嵩博士開發的。

經過一系列復雜的邏輯運算和數據處理,用於這次給你看的淘寶網首頁的內容便生成成功了。

據消息稱,在雙十一當天高峰,淘寶的訪問流量最巔峰達到871GB/S(註:一秒鐘871GB,如果你電腦硬盤是500G的話,相當於一秒鐘,你的磁盤就被塞滿了)。這個數字意味著需要178萬個4Mb帶寬的家庭寬帶才能負擔的起,也完全有能力拖垮一個中小城市的全部互聯網帶寬。那麽顯然,這些訪問流量不可能集中在一起。並且大家都知道,不同地區不同網絡(註:電信、聯通、教育網等)之間互訪會非常緩慢,但是你卻發現很少發現淘寶網訪問緩慢。這便是CDN(Content Delivery Network),即內容分發網絡的作用。淘寶在全國各地建立了數十上百個CDN節點,利用一些手段保證你訪問的地方是離你最近的CDN節點,這樣便保證了大流量分散在各地訪問的加速節點上,指不定你們家這塊就有一個。

這便出現了一個問題,那就是假如一個賣家發布了一個新的寶貝,上傳了幾張新的寶貝圖片,那麽淘寶網如何保證全國各地的CDN節點中都會同步的存在這幾張圖片供用戶使用呢?這裏邊就涉及到了大量的內容分發與同步的相關技術。淘寶開發了分布式文件系統TFS(Taobao FileSystem)來處理這類問題。

好了,這時你終於加載完了淘寶首頁,那麽你習慣性的在首頁搜索框中輸入了 ’月餅’ 二字並敲回車,這時你又產生了一個PV,然後,淘寶網的主搜索系統便開始為你服務了。它首先對你輸入的內容基於一個分詞庫進行分詞操作。眾所周知,英文是以詞為單位的,詞和詞之間是靠空格隔開,而中文是以字為單位,句子中所有的字連起來才能描述一個意思。例如,英文句子I am a student,用中文則為:“我是一個學生”。計算機可以很簡單通過空格知道student是一個單詞,但是不能很容易明白“學”、“生”兩個字合起來才表示一個詞。把中文的漢字序列切分成有意義的詞,就是中文分詞,有些人也稱為切詞。我是一個學生,分詞的結果是:我是一個學生。

進行分詞之後,還需要根據你輸入的搜索詞進行你的購物意圖分析。用戶進行搜索時常常有如下幾類意圖:

(1)瀏覽型:沒有明確的購物對象和意圖,邊看邊買,用戶比較隨意和感性。查詢例如:”2013年10大香水排行”,”2013年流行雪紡衫”, “iPhone有哪個牌子好?”;

(2)查詢型:有一定的購物意圖,體現在對屬性的要求上。查詢例如:”適合老人用的手機”,”500元手表”;

(3)對比型:已經縮小了購物意圖,具體到了某幾個產品。查詢例如:”iPhone 5 三星蓋世三″,”三星 i9300 i9400″;

(4)確定型:已經做了基本決定,重點考察某個對象。查詢例如:”iPhone5″,”蓋世三″。通過對你的購物意圖的分析,主搜索會呈現出完全不同的結果來。

之後的數個步驟後,主搜索系統便根據上述以及更多復雜的條件列出了搜索結果,這一切是由一千多臺搜索服務器完成。然後你開始逐一點擊瀏覽搜索出的寶貝。你開始查看寶貝詳情頁面。經常網購的親們會發現,當你買過了一個寶貝之後,即便是商家多次修改了寶貝詳情頁,你仍然能夠通過‘已買到的寶貝’查看當時的快照。那麽顯然,對於每年數十上百億比交易的商品詳情快照進行保存和快速調用不是一個簡單的事情。這其中又涉及到數套系統的共同協作,其中較為重要的是Tair(註:淘寶自行研發的分布式KV存儲方案)。

然後無論你是否真正進行了交易,你的這些訪問行為便忠實的被系統記錄下來,用於後續的業務邏輯和數據分析。這些記錄中訪問日誌記錄便是最重要的記錄之一,但是前邊我們得知,這些訪問是分布在各個地區很多不同的服務器上的,並且由於用戶眾多,這些日誌記錄都非常龐大,達到TB(註:1TB=1024GB)級別非常正常。那麽為了快速及時傳輸同步這些日誌數據,淘寶研發了TimeTunnel,用於進行實時的數據傳輸,交給後端系統進行計算報表等操作。

你的瀏覽數據、交易數據以及其它很多很多的數據記錄均會被保留下來。使得淘寶存儲的歷史數據輕而易舉的便達到了十數甚至更多個 PB(註:1PB=1024TB=1048576GB)。如此巨大的數據量經過淘寶系統1:120的極限壓縮存儲在淘寶的數據倉庫中。並且通過一個叫做雲梯的,由數萬臺服務器組成的超大規模數據系統不斷的進行分析和挖掘。

從這些數據中淘寶能夠知道小到你是誰,你喜歡什麽,你的孩子幾歲了,你是否在談戀愛,喜歡玩魔獸世界的人喜歡什麽樣的飲料等,大到各行各業的零售情況、各類商品的興衰消亡等等海量的信息。

你剛訪問了淘寶首頁,而淘寶卻做了這麽多事情。

說了這麽多,其實也只是敘述了淘寶上正在運行的成千上萬個系統中的寥寥幾個。即便是你僅僅訪問一次淘寶的首頁,所涉及到的技術和系統規模都是你完全無法想象的,是淘寶3000多名頂級的工程師們的心血結晶,其中甚至包括長江學者、國家科學技術最高獎得主等眾多大牛。同樣,百度、騰訊等的業務系統也絕不比淘寶簡單。你需要知道的是,你每天使用的互聯網產品,看似簡單易用,背後卻凝聚著難以想象的智慧與勞動。

總體分為這麽幾個過程:

  • DNS解析
  • TCP連接
  • 發送HTTp請求
  • 服務器處理並返回HTTP報文
  • 瀏覽器解析渲染頁面
  • 連接結束

具體過程
1、DNS解析
DNS解析的過程就是尋找哪臺機器上有你需要資源的過程。當輸入www.baidu.com的時候,其實是要找對應的ip地址,DNS充當了翻譯的角色,實現了網址到IP地址的轉換。因為互聯網上的每一臺計算機的唯一標識是它的IP地址。

解析過程:

DNS解析是一個遞歸查詢的過程。
技術分享圖片

技術分享圖片

首先在本地域名服務器中查詢IP地址,如果沒有找到的情況下,本地域名服務器會向根域名服務器發送一個請求,如果根域名服務器也不存在該域名時,本地域名會向com頂級域名服務器發送一個請求,依次類推下去。直到最後本地域名服務器得到baidu的IP地址並把它緩存到本地,供下次查詢使用。從上述過程中,可以看出網址的解析是一個從右向左的過程: com -> baidu.com -> www.baidu.com。但是你是否發現少了點什麽,根域名服務器的解析過程呢?事實上,真正的網址是www.baidu.com.,並不是我多打了一個.,這個.對應的就是根域名服務器,默認情況下所有的網址的最後一位都是.,既然是默認情況下,為了方便用戶,通常都會省略,瀏覽器在請求DNS的時候會自動加上,所有網址真正的解析過程為: . -> .com -> baidu.com. -> www.baidu.com.。

2、TCP連接
3、 HTTP請求
其實這部分又可以稱為前端工程師眼中的HTTP,它主要發生在客戶端。發送HTTP請求的過程就是構建HTTP請求報文並通過TCP協議中發送到服務器指定端口(HTTP協議80/8080, HTTPS協議443)。HTTP請求報文是由三部分組成: 請求行, 請求報頭和請求正文。
請求行

格式如下:

Method Request-URL HTTP-Version CRLF

eg: GET index.html HTTP/1.1
常用的方法有: GET, POST, PUT, DELETE, OPTIONS, HEAD。

TODO:

GET和POST有什麽區別?
請求報頭

請求報頭允許客戶端向服務器傳遞請求的附加信息和客戶端自身的信息。
PS: 客戶端不一定特指瀏覽器,有時候也可使用Linux下的CURL命令以及HTTP客戶端測試工具等。
常見的請求報頭有: Accept, Accept-Charset, Accept-Encoding, Accept-Language, Content-Type, Authorization, Cookie, User-Agent等。

請求正文

當使用POST, PUT等方法時,通常需要客戶端向服務器傳遞數據。這些數據就儲存在請求正文中。在請求包頭中有一些與請求正文相關的信息,例如: 現在的Web應用通常采用Rest架構,請求的數據格式一般為json。這時就需要設置Content-Type: application/json。

4、服務器處理並返回HTTP報文
自然而然這部分對應的就是後端工程師眼中的HTTP。後端從在固定的端口接收到TCP報文開始,這一部分對應於編程語言中的socket。它會對TCP連接進行處理,對HTTP協議進行解析,並按照報文格式進一步封裝成HTTP Request對象,供上層使用。這一部分工作一般是由Web服務器去進行,我使用過的Web服務器有Tomcat, Jetty和Netty等等。

HTTP響應報文也是由三部分組成: 狀態碼, 響應報頭和響應報文。

狀態碼

狀態碼是由3位數組成,第一個數字定義了響應的類別,且有五種可能取值:

1xx:指示信息–表示請求已接收,繼續處理。
2xx:成功–表示請求已被成功接收、理解、接受。
3xx:重定向–要完成請求必須進行更進一步的操作。
4xx:客戶端錯誤–請求有語法錯誤或請求無法實現。
5xx:服務器端錯誤–服務器未能實現合法的請求。平時遇到比較常見的狀態碼有:200, 204, 301, 302, 304, 400, 401, 403, 404, 422, 500(分別表示什麽請自行查找)。
TODO:

301和302有什麽區別?
HTTP緩存
響應報頭

常見的響應報頭字段有: Server, Connection...。

響應報文

服務器返回給瀏覽器的文本信息,通常HTML, CSS, JS, 圖片等文件就放在這一部分。

5、瀏覽器解析渲染頁面

https://segmentfault.com/a/1190000011564089

在瀏覽器中輸入URL並回車後都發生了什麽?