Nginx

http://tengine.taobao.org/book/index.html、http://www.nginx.cn/doc/

upstream

upstream backend  {
  server backend1.example.com weight=5;
  server backend2.example.com:8080;
}
 
server {
  location / {
    proxy_pass  http://backend;
  }
}

负载均衡算法

round-robin

轮询，默认的负载均衡算法，即以轮询的方式将请求转发到上游服务器，通过weight配置可以实现基于权重的轮询。

ip_hash

根据可以ip进行负载均衡，即相同的ip将负载均衡到同一个上游服务器。

upstream backend  {
  ip_hash;
  server backend1.example.com weight=5;
  server backend2.example.com:8080;
}

hash key

对某一个key进行哈希或者使用一致性哈希算法进行负载均衡。

根据uri进行负载均衡

upstream backend  {
  hash $uri;
  server backend1.example.com weight=5;
  server backend2.example.com:8080;
}

least_conn

将请求负载到最少活跃连接的上有服务器。

upstream backend  {
  least_conn;
  server backend1.example.com weight=5;
  server backend2.example.com:8080;
}

四层负载均衡

Nginx1.9.0版本起支持四层负载均衡。在默认情况下，ngx_stream_core_module是没有启动的，需要在安装Nginx时，添加--with-stream配置参数启动。

stream {
    upstream backend {
        hash $remote_addr consistent;

        server backend1.example.com:12345 weight=5;
        server 127.0.0.1:12345            max_fails=3 fail_timeout=30s;
        server unix:/tmp/backend3;
    }

    upstream dns {
       server 192.168.0.1:53535;
       server dns.example.com:53;
    }

    server {
        listen 12345;
        proxy_connect_timeout 1s;
        proxy_timeout 3s;
        proxy_pass backend;
    }

    server {
        listen 127.0.0.1:53 udp;
        proxy_responses 1;
        proxy_timeout 20s;
        proxy_pass dns;
    }

    server {
        listen [::1]:12345;
        proxy_pass unix:/tmp/stream.socket;
    }
}

优化策略

1. worker_processes：worker进程数量优化，保持与cpu核数相当；

2. worker_connections：每个worker进程允许的最大连接数；

3. gzip：压缩响应内容，优化带宽；

4. 配置静态资源缓存；

5. proxy_buffers：反向代理缓冲；

6. proxy_cache：反向代理缓存；