lar 日誌格式 說明 編譯安裝 相同 運行 nginx狀態 server epo

作者：niumd

Blog:http://ari.iteye.com

轉載請註明出處，謝謝

開發的應用采用F5負載均衡交換機，F5將請求轉發給5臺hp unix服務器，每臺服務器有多個webserver實例，對外提供web服務和socket等接口服務。之初，曾有個小小的疑問為何不采用開源的apache、Nginx軟件負載，F5設備動輒幾十萬，價格昂貴？自己一個比較幼稚的問題，後續明白：F5是操作於IOS網絡模型的傳輸層，Nginx、apache是基於http反向代理方式，位於ISO模型的第七層應用層。直白些就是TCP UDP 和http協議的區別，Nginx不能為基於TCP協議的應用提供負載均衡。

了解了二者之間的區別於應用場景，對Nginx產生濃厚的興趣，閱讀張宴的<實戰Nginx>（這個85年的小夥子年輕有為羨慕+妒忌），搞明白了大致原理和配置，Ubuntu10.10，window下對Nginx+tomcat負載均衡做了配置嘗試，將全部請求轉發到tomcat，並未做靜態，動態分開，圖片防盜鏈等配置。
Nginx 介紹

Nginx （發音同 engine x）是一款輕量級的Web 服務器／反向代理服務器及電子郵件（IMAP/POP3）代理服務器，並在一個BSD-like 協議下發行。 其特點是占有內存少，並發能力強，事實上nginx的並發能力確實在同類型的網頁伺服器中表現較好.目前中國大陸使用nginx網站用戶有：新浪、網易、 騰訊,另外知名的微網誌Plurk也使用nginx。

上面的全是Nginx介紹基本上是廢話，下面轉入正題，圖文結合展示基本配置，首先是window環境、其次是Ubuntu環境（Vbox虛擬）。本文主要基於Nginx下配置兩臺tomcat，結構如下圖：

Window xp環境：Nginx+Tomcat6

1、下載地址

http://nginx.org/en/download.html，這裏我們推薦下載穩定版（stable versions），本文采用nginx-0.8.20。

2、目錄結構

Nginx-

|_ conf 配置目錄

|_ contrib

|_ docs 文檔目錄

|_ logs 日誌目錄

|_ temp 臨時文件目錄

|_ html 靜態頁面目錄

|_ nginx.exe 主程序

window下安裝Nginx極其簡單，解壓縮到一個無空格的英文目錄即可（個人習慣，擔心中文出問題），雙擊nginx啟動，這裏我安裝到：D:\server目錄，下面涉及到的tomcat也安裝在此目錄。

DOS環境啟動

若果想停止nginx，dos環境運行命令：nginx -s stop

3、nginx.conf配置

Nginx配置文件默認在conf目錄，主要配置文件為nginx.conf，我們安裝在D:\server\nginx-0.8.20、默認主配置文件為D:\server\nginx-0.8.20\nginx.conf。下面是nginx作為前端反向代理服務器的配置。

Nginx.conf代碼

1. #Nginx所用用戶和組，window下不指定
2. #user niumd niumd;
4. #工作的子進程數量（通常等於CPU數量或者2倍於CPU）
5. worker_processes 2;
7. #錯誤日誌存放路徑
8. #error_log logs/error.log;
9. #error_log logs/error.log notice;
10. error_log logs/error.log info;
12. #指定pid存放文件
13. pid logs/nginx.pid;
15. events {
16. #使用網絡IO模型linux建議epoll，FreeBSD建議采用kqueue，window下不指定。
17. #use epoll;
19. #允許最大連接數
20. worker_connections 2048;
21. }
23. http {
24. include mime.types;
25. default_type application/octet-stream;
27. #定義日誌格式
28. #log_format main ‘$remote_addr - $remote_user [$time_local] $request ‘
29. # ‘"$status" $body_bytes_sent "$http_referer" ‘
30. # ‘"$http_user_agent" "$http_x_forwarded_for"‘;
32. #access_log off;
33. access_log logs/access.log;
35. client_header_timeout 3m;
36. client_body_timeout 3m;
37. send_timeout 3m;
39. client_header_buffer_size 1k;
40. large_client_header_buffers 4 4k;
42. sendfile on;
43. tcp_nopush on;
44. tcp_nodelay on;
46. #keepalive_timeout 75 20;
48. include gzip.conf;
49. upstream localhost {
50. #根據ip計算將請求分配各那個後端tomcat，許多人誤認為可以解決session問題，其實並不能。
51. #同一機器在多網情況下，路由切換，ip可能不同
52. #ip_hash;
53. server localhost:18081;
54. server localhost:18080;
55. }
57. server {
58. listen 80;
59. server_name localhost;
61. location / {
62. proxy_connect_timeout 3;
63. proxy_send_timeout 30;
64. proxy_read_timeout 30;
65. proxy_pass http://localhost;
66. }
68. }
69. }

代理設置如下：

Proxy.conf代碼

1. proxy_redirect off;
2. proxy_set_header Host $host;
3. proxy_set_header X-Real-IP $remote_addr;
4. proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
5. client_max_body_size 10m;
6. client_body_buffer_size 128k;
7. proxy_connect_timeout 300;
8. proxy_send_timeout 300;
9. proxy_read_timeout 300;
10. proxy_buffer_size 4k;
11. proxy_buffers 4 32k;
12. proxy_busy_buffers_size 64k;
13. proxy_temp_file_write_size 64k;

gzip壓縮相關配置如下：

Gzip.conf代碼

1. gzip on;
2. gzip_min_length 1000;
3. gzip_types text/plain text/css application/x-javascript;

4、Tomcat配置

對於tomcat大家都很熟悉，只需要修改server.xml配置文件即可，這裏我們以apache-tomcat-6.0.14為例，分別在server目錄，解壓縮並命名為：apache-tomcat-6.0.14_1、apache-tomcat-6.0.14_2。

第一處端口修改：

Xml代碼

1. <!-- 修改port端口：18006 倆個tomcat不能重復，端口隨意，別太小-->
2. <Server port="18006" shutdown="SHUTDOWN">

第二處端口修改：

Xml代碼

1. <!-- port="18081" tomcat監聽端口，隨意設置，別太小 -->
2. <Connector port="18081" protocol="HTTP/1.1"
3. connectionTimeout="20000"
4. redirectPort="8443" />

第三處端口修改：

Java代碼

1. <Connector port="8009" protocol="AJP/1.3" redirectPort="8443" />

Engine元素增加jvmRoute屬性：

Xml代碼

1. <Engine name="Catalina" defaultHost="localhost" jvmRoute="tomcat1">

兩個tomcat的端口別重復，保證能啟動起來，另一個tomcat配置希捷省略，監聽端口為18080，附件中我們將上傳所有的配置信息。

5、驗證配置與測試負載均衡

首先測試nginx配置是否正確，測試命令：nginx -t (默認驗證:conf\nginx.conf),也可以指定配置文件路徑。

此例nginx安裝目錄：D:\server\nginx-0.8.20，dos環境下圖畫面成功示例：

其次驗證tomcat，啟動兩個tomcat，不出現端口沖突即為成功（tomcat依賴的java等搞“挨踢”的就廢話不說了）；

最後驗證配置負載均衡設置，http://localhost/或http://localhost/index.jsp。我修改了index.jsp頁面，增加日誌輸出信息，便於觀察。註意：左上角小貓頭上的：access tomcat2、access tomcat1。說明訪問了不同的tomcat。

至此window下nginx+tomcat負載均衡配置結束，關於tomcat Session的問題通常是采用memcached，或者采用nginx_upstream_jvm_route ，他是一個 Nginx 的擴展模塊，用來實現基於 Cookie 的 Session Sticky 的功能。如果tomcat過多不建議session同步，server間相互同步session很耗資源，高並發環境容易引起Session風暴。請根據自己應用情況合理采納session解決方案。

作者：niumd

Blog:http://ari.iteye.com

Ubuntu10.10環境：Nginx+Tomcat6

我們下面簡單說下ubuntu10.10下如何安裝配置，主要以圖片為主，簡單解釋。

1、下載Nginx

地址：http://nginx.org/en/download.html，linux版本：nginx-0.8.20.tar.。解壓縮命令：

tar -zxvf nginx-0.8.20.tar.gz

2、編譯安裝Nginx

Nginx依賴一些其他PCRE、openssl（依賴libssl-dev），本人筆記本Ubuntu環境已經安裝PCRE，僅需安裝依賴的openssl，下面我們簡單說下如何安裝PCRE和openssl等

PCRE下載地址：ftp://ftp.csx.cam.ac.uk/pub/software/programming/pcre/

Shell代碼

1. tar zxvf pcre-8.01.tar.gz
2. cd pcre-8.01
3. sudo ./configure
4. sodu make
5. sodu make install

openssl通過apt-get install安裝，命令、截圖如下：

Shell代碼

1. sudo apt-get install openssl
2. sudo apt-get install libssl-dev
3. //如缺少其他包，請采用此方法安裝，ubuntu有依賴提示

依賴的軟件包安裝完畢，下面來編譯Nginx：

Shell代碼

1. #將window共享目錄軟件拷貝到當前工作目錄
2. cp /mnt/fileshare/nginx-0.8.20.tar.gz ./
4. #解壓縮軟件包
5. tar zxvf nginx-0.8.20.tar.gz
7. cd nginx-0.8.20
8. //編譯源碼,默認使用nobody，指定本機已存在的用戶，組，啟用nginx-status功能，監控nginx狀態。啟動debug
9. sudo ./configure --user=niumd --group=niumd --with-debug --with-http_stub_status_module
12. sudo make
13. sudo make install

截圖 如下：

安裝結果截圖如下：

編譯安裝正確結束，按照上述window下方法檢查默認配置，然後在默認配置下啟動nginx，訪問http://127.0.0.1，如下圖說明成功

Nginx配置成功後我們對window下nginx.conf少做修改，如下：

Ubuntu nginx.conf代碼

1. #Nginx所用用戶和組
2. user niumd niumd;
4. #工作的子進程數量（通常等於CPU數量或者2倍於CPU）
5. worker_processes 2;
7. #錯誤日誌存放路徑
8. #error_log logs/error.log;
9. #error_log logs/error.log notice;
10. error_log logs/error.log info;
12. #指定pid存放文件
13. pid logs/nginx.pid;
15. events {
16. #使用網絡IO模型linux建議epoll，FreeBSD建議采用kqueue
17. use epoll;
19. #允許最大連接數
20. worker_connections 2048;
21. }
23. http {
24. include mime.types;
25. default_type application/octet-stream;
27. #定義日誌格式
28. #log_format main ‘$remote_addr - $remote_user [$time_local] $request ‘
29. # ‘"$status" $body_bytes_sent "$http_referer" ‘
30. # ‘"$http_user_agent" "$http_x_forwarded_for"‘;
32. #access_log off;
33. access_log logs/access.log;
35. client_header_timeout 3m;
36. client_body_timeout 3m;
37. send_timeout 3m;
39. client_header_buffer_size 1k;
40. large_client_header_buffers 4 4k;
42. sendfile on;
43. tcp_nopush on;
44. tcp_nodelay on;
46. #keepalive_timeout 75 20;
48. include gzip.conf;
49. upstream localhost {
50. #ip_hash
51. #ip_hash;
52. server localhost:18081;
53. server localhost:18080;
54. }
56. server {
57. listen 80;
58. server_name localhost;
60. location / {
61. proxy_connect_timeout 3;
62. proxy_send_timeout 30;
63. proxy_read_timeout 30;
64. proxy_pass http://localhost;
65. }
67. }
68. }

對於上面關於ubuntu下Nginx配置和window下基本相同，區別在使用的IO網絡模型，linux下建議使用epoll，另外就是運行所用的用戶和組；

3、配置tomcat

請參考window下配置，完全相同。

4、啟動停止nginx

ubuntu下啟動nginx與window稍有不同，大致啟動停止方法如下。

Java代碼

1. #nginx目錄執行
2. sbin/nginx
3. 或通過-c 指定配置文件
4. sbin/nginx -c usr/local/nginx8.20/conf/nginx/conf

Shell代碼

1. niumd@niumd-laptop:/usr/local/nginx$ pwd
2. /usr/local/nginx
3. niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -t
4. the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok
5. configuration file /usr/local/nginx/conf/nginx.conf test is successful
6. niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -v
7. nginx version: nginx/0.8.20
8. niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx -V
9. nginx version: nginx/0.8.20
10. built by gcc 4.4.3 (Ubuntu 4.4.3-4ubuntu5)
11. configure arguments: --user=niumd --group=niumd --with-debug --with-http_sub_module
12. niumd@niumd-laptop:/usr/local/nginx$ sudo sbin/nginx
13. niumd@niumd-laptop:/usr/local/nginx$ ps -ef|grep nginx
14. root 5158 1 0 22:32 ? 00:00:00 nginx: master process sbin/nginx
15. niumd 5159 5158 0 22:32 ? 00:00:00 nginx: worker process
16. niumd 5161 1577 0 22:32 pts/0 00:00:00 grep --color=auto nginx
17. niumd@niumd-laptop:/usr/local/nginx$

我們通過ps -ef|grep nginx,看到如下結果:

註意：在啟動時linux提示一句警告【warn】……，是因為我們設置的 #允許最大連接數 worker_connections 2048，超過linux默認1024的限制。

停止：kill -信號類型 pid

nginx/logs目錄下有個nginx。pid的文件，此文件記錄了每次運行的pid，也可以通過ps命令查詢。

信號類型如下：

信號控制

信號類型	描述
RERM.INT	快速關閉
HUP	平滑重啟，加載配置
USR1	重新加載日誌
USER2	平滑升級執行程序
WINCH	從容關閉工作進程
QUIT	從容關閉

參考資料：

http://www.oschina.net/bbs/thread/9301

oschina.net 生產配置，此網站采用java語言，nginx，tomcat服務器。

http://nginx.org/

圖文解說：Nginx+tomcat配置集群負載均衡