詳解Linux雙網絡卡繫結之bond0
1、什麼是bond？
網絡卡bond是通過多張網絡卡繫結為一個邏輯網絡卡，實現本地網絡卡的冗餘，頻寬擴容和負載均衡，在生產場景中是一種常用的技術。Kernels 2.4.12及以後的版本均供bonding模組，以前的版本可以通過patch實現。
2、實現原理：
網絡卡工作在混雜（promisc）模式，接收到達網絡卡的所有資料包，tcpdump工作用的也是混雜模式（promisc），將兩塊網絡卡的 MAC地址修改為相同接收特定MAC的資料幀，然後把相應的資料幀傳送給bond驅動程式進行處理。
3、通過以下命令確定核心是否支援 bonding：
[
CONFIG_BONDING=m
[[email protected] network-scripts]#
4、bond的模式
bond的模式常用的有兩種：
mode=0（balance-rr）
表示負載分擔round-robin，並且是輪詢的方式比如第一個包走eth0，第二個包走eth1，直到資料包傳送完畢。
優點：流量提高一倍
缺點：需要接入交換機做埠聚合，否則可能無法使用
mode=1（active-backup）
表示主備模式，即同時只有1塊網絡卡在工作。
優點：冗餘性高
缺點：鏈路利用率低，兩塊網絡卡只有1塊在工作
bond其他模式：
mode=2(balance-xor)(平衡策略)
表示XOR Hash負載分擔，和交換機的聚合強制不協商方式配合。(需要xmit_hash_policy，需要交換機配置port channel)
特點：基於指定的傳輸HASH策略傳輸資料包。預設的策略是：(源MAC地址 XOR 目標MAC地址) % slave數量。其他的傳輸策略可以通過xmit_hash_policy選項指定，此模式提供負載平衡和容錯能力
mode=3(broadcast)(廣播策略)
表示所有包從所有網路介面發出，這個不均衡，只有冗餘機制，但過於浪費資源。此模式適用於金融行業，因為他們需要高可靠性的網路，不允許出現任何問題。需要和交換機的聚合強制不協商方式配合。
特點：在每個slave介面上傳輸每個資料包，此模式提供了容錯能力
mode=4(802.3ad)(IEEE802.3ad 動態連結聚合)
表示支援802.3ad協議和交換機的聚合LACP方式配合(需要xmit_hash_policy).標準要求所有裝置在聚合操作時，要在同樣的速率和雙工模式，而且，和除了balance-rr模式外的其它bonding負載均衡模式一樣，任何連線都不能使用多於一個介面的頻寬。
特點：建立一個聚合組，它們共享同樣的速率和雙工設定。根據802.3ad規範將多個slave工作在同一個啟用的聚合體下。外出流量的slave選舉是基於傳輸hash策略，該策略可以通過xmit_hash_policy選項從預設的XOR策略改變到其他策略。需要注意的是，並不是所有的傳輸策略都是802.3ad適應的，尤其考慮到在802.3ad標準43.2.4章節提及的包亂序問題。不同的實現可能會有不同的適應性。
必要條件：
條件1：ethtool支援獲取每個slave的速率和雙工設定
條件2：switch(交換機)支援IEEE802.3ad Dynamic link aggregation
條件3：大多數switch(交換機)需要經過特定配置才能支援802.3ad模式
mode=5(balance-tlb)(介面卡傳輸負載均衡)
根據每個slave的負載情況選擇slave進行傳送，接收時使用當前輪到的slave。該模式要求slave介面的網路裝置驅動有某種ethtool支援；而且ARP監控不可用。
特點：不需要任何特別的switch(交換機)支援的通道bonding。在每個slave上根據當前的負載（根據速度計算）分配外出流量。如果正在接受資料的slave出故障了，另一個slave接管失敗的slave的MAC地址。
必要條件：
ethtool支援獲取每個slave的速率
mode=6(balance-alb)(介面卡適應性負載均衡)
在5的tlb基礎上增加了rlb(接收負載均衡receiveload balance).不需要任何switch(交換機)的支援。接收負載均衡是通過ARP協商實現的.
特點：該模式包含了balance-tlb模式，同時加上針對IPV4流量的接收負載均衡(receiveload balance, rlb)，而且不需要任何switch(交換機)的支援。接收負載均衡是通過ARP協商實現的。bonding驅動截獲本機發送的ARP應答，並把源硬體地址改寫為bond中某個slave的唯一硬體地址，從而使得不同的對端使用不同的硬體地址進行通訊。來自伺服器端的接收流量也會被均衡。當本機發送ARP請求時，bonding驅動把對端的IP資訊從ARP包中複製並儲存下來。當ARP應答從對端到達時，bonding驅動把它的硬體地址提取出來，併發起一個ARP應答給bond中的某個slave。使用ARP協商進行負載均衡的一個問題是：每次廣播 ARP請求時都會使用bond的硬體地址，因此對端學習到這個硬體地址後，接收流量將會全部流向當前的slave。這個問題可以通過給所有的對端傳送更新（ARP應答）來解決，應答中包含他們獨一無二的硬體地址，從而導致流量重新分佈。當新的slave加入到bond中時，或者某個未啟用的slave重新啟用時，接收流量也要重新分佈。接收的負載被順序地分佈（roundrobin）在bond中最高速的slave上當某個鏈路被重新接上，或者一個新的slave加入到bond中，接收流量在所有當前啟用的slave中全部重新分配，通過使用指定的MAC地址給每個 client發起ARP應答。下面介紹的updelay引數必須被設定為某個大於等於switch(交換機)轉發延時的值，從而保證發往對端的ARP應答不會被switch(交換機)阻截。
bond模式小結：
mode5和mode6不需要交換機端的設定，網絡卡能自動聚合。mode4需要支援802.3ad。mode0，mode2和mode3理論上需要靜態聚合方式。
3 配置bond
測試環境：
[[email protected] ~]# cat/etc/redhat-release
CentOS release 6.7 (Final)
[[email protected] ~]# uname -r
2.6.32-573.el6.x86_64
1、配置物理網絡卡
[[email protected] network-scripts]#cat ifcfg-eth0
DEVICE=eth0
TYPE=Ethernet
ONBOOT=yes
BOOTPROTO=none
MASTER=bond0
SLAVE=yes //可以沒有此欄位，就需要開機執行ifenslave bond0 eth0 eth1命令了。
[[email protected] network-scripts]#
[[email protected] network-scripts]#cat ifcfg-eth1
DEVICE=eth1
TYPE=Ethernet
ONBOOT=yes
BOOTPROTO=none
MASTER=bond0
SLAVE=yes
[[email protected] network-scripts]#
2、配置邏輯網絡卡bind0
[[email protected] network-scripts]#cat ifcfg-bond0 //需要我們手工建立
DEVICE=bond0
TYPE=Ethernet
ONBOOT=yes
BOOTPROTO=static
IPADDR=10.0.0.10
NETMASK=255.255.255.0
DNS2=4.4.4.4
GATEWAY=10.0.0.2
DNS1=10.0.0.2
[[email protected] network-scripts]#
由於沒有這個配置檔案我們可以使用拷貝一個ifcfg-eth1來用：cp ifcfg-{eth0,bond1}
3、載入模組，讓系統支援bonding
[[email protected] ~]# cat/etc/modprobe.conf //不存在的話，手動建立（也可以放在modprobe.d下面）
alias bond0 bonding
options bond0 miimon=100 mode=0
[[email protected] ~]#
配置bond0的鏈路檢查時間為100ms，模式為0。
注意：
linux網絡卡bonging的備份模式實驗在真實機器上做完全沒問題（前提是linux核心支援），但是在vmware workstation虛擬中做就會出現介面卡不具有網路連線的現象。
配置完成後出現介面卡不具有網路連線的問題，但是bond0能夠正常啟動也能夠正常使用，只不過沒有起到備份模式的效果。當使用ifdown eth0後，網路出現不通現象。
核心文件中有說明：bond0獲取mac地址有兩種方式,一種是從第一個活躍網絡卡中獲取mac地址，然後其餘的SLAVE網絡卡的mac地址都使用該mac地址；另一種是使用fail_over_mac引數，是bond0使用當前活躍網絡卡的mac地址，mac地址或者活躍網絡卡的轉換而變。
既然vmware workstation不支援第一種獲取mac地址的方式，那麼可以使用fail_over_mac=1引數，所以這裡我們新增fail_over_mac=1引數
[[email protected] etc]# cat/etc/modprobe.d/modprobe.conf
alias bond0 bonding
options bond0 miimon=100 mode=0fail_over_mac=1
[[email protected] etc]#
4、載入bond module
[[email protected] etc]# modprobe bonding
5、檢視繫結結果
[[email protected] etc]# cat/proc/net/bonding/bond0
Ethernet Channel BondingDriver: v3.7.1 (April 27, 2011)
Bonding Mode: load balancing(round-robin)
MII Status: up
MII Polling Interval (ms): 100
Up Delay (ms): 0
Down Delay (ms): 0
Slave Interface: eth0
MII Status: up
Speed: 1000 Mbps
Duplex: full
Link Failure Count: 0
Permanent HW addr:00:50:56:28:7f:51
Slave queue ID: 0
Slave Interface: eth1
MII Status: up
Speed: 1000 Mbps
Duplex: full
Link Failure Count: 0
Permanent HW addr:00:50:56:29:9b:da
Slave queue ID: 0
[[email protected] etc]#
4 測試bond
由於使用的是mode=0，負載均衡的方式，這時我們ping百度，然後斷開一個網絡卡，此時ping不會中斷。
[[email protected] etc]# pingbaidu.com
PING baidu.com (111.13.101.208)56(84) bytes of data.
64 bytes from 111.13.101.208:icmp_seq=1 ttl=128 time=10.6 ms
64 bytes from 111.13.101.208:icmp_seq=2 ttl=128 time=9.05 ms
64 bytes from 111.13.101.208:icmp_seq=3 ttl=128 time=11.7 ms
64 bytes from 111.13.101.208:icmp_seq=4 ttl=128 time=7.93 ms
64 bytes from 111.13.101.208:icmp_seq=5 ttl=128 time=9.50 ms
64 bytes from 111.13.101.208:icmp_seq=6 ttl=128 time=7.17 ms
64 bytes from 111.13.101.208:icmp_seq=7 ttl=128 time=21.2 ms
64 bytes from 111.13.101.208:icmp_seq=8 ttl=128 time=7.46 ms
64 bytes from 111.13.101.208:icmp_seq=9 ttl=128 time=7.82 ms
64 bytes from 111.13.101.208:icmp_seq=10 ttl=128 time=8.15 ms
64 bytes from 111.13.101.208:icmp_seq=11 ttl=128 time=6.89 ms
64 bytes from 111.13.101.208: icmp_seq=12ttl=128 time=8.33 ms
64 bytes from 111.13.101.208:icmp_seq=13 ttl=128 time=8.65 ms
64 bytes from 111.13.101.208:icmp_seq=14 ttl=128 time=7.16 ms
64 bytes from 111.13.101.208:icmp_seq=15 ttl=128 time=9.31 ms
64 bytes from 111.13.101.208:icmp_seq=16 ttl=128 time=10.5 ms
64 bytes from 111.13.101.208:icmp_seq=17 ttl=128 time=7.61 ms
64 bytes from 111.13.101.208:icmp_seq=18 ttl=128 time=10.2 ms
^C
--- baidu.com ping statistics---
18 packets transmitted, 18received, 0% packet loss, time 17443ms
rtt min/avg/max/mdev = 6.899/9.417/21.254/3.170 ms
//用另一個終端手動關閉eth0網絡卡，ping並沒有中斷
[[email protected] etc]# !ca
cat /proc/net/bonding/bond0
Ethernet Channel BondingDriver: v3.7.1 (April 27, 2011)
Bonding Mode: load balancing(round-robin)
MII Status: up
MII Polling Interval (ms): 100
Up Delay (ms): 0
Down Delay (ms): 0
Slave Interface: eth0
MII Status: down
Speed: Unknown
Duplex: Unknown
Link Failure Count: 1
Permanent HW addr:00:50:56:28:7f:51
Slave queue ID: 0
Slave Interface: eth1
MII Status: up
Speed: 1000 Mbps
Duplex: full
Link Failure Count: 0
Permanent HW addr:00:50:56:29:9b:da
Slave queue ID: 0
[[email protected] etc]#
//檢視bond0狀態，發現eth0，down了，但是bond正常