Nginx负载均衡

负载均衡的作用

分摊到多个操作单元上进行执行，就是我们需要一个调度者，保证所有后端服务器都将性能充分发挥，从而保持服务器集群的整体性能最优。在许多应用中，负载平衡是一种常用的技术来优化利用资源最大化吞吐量，减少等待时间，并确保容错。可以使用nginx的作为一种非常高效的HTTP负载平衡器，将流量分配到多个应用服务器上提高性能，可扩展性和高可用性。

负载均衡配置

nginx的负载均衡用于upstream模板定义的后端服务器列表中选取一台服务器接收用户的请求。一个基本的upstream模块如下：

upstream [服务器组名称]{
　　server [IP地址]:[端口号];
　　server [IP地址]:[端口号];
　　....
}

在upstream模块配置完成后，要让指定的访问反向代理到服务器列表，格式如下：

location ~ .*$ {
　　index index.jsp index.html;
　　proxy_pass http://[服务器组名称];
}

负载均衡策略

轮询 round-robin

最基本的配置方法，是upstream模块默认的负载均衡策略。每个请求会按时间顺序平均分配到不同的后端服务器。有如下参数：

fail_timeout    与max_fails结合使用`
max_fails    在fail_timeout参数设置的时间内最大失败次数。如果在这个时间内，所有该服务器的请求都失败了，那么认为该服务器停机
fail_time    服务器被认为停机的时长，默认10s
backup    标记该服务器为备用服务器。当主服务器停止时，请求会被发送到它这里
down    标记服务器永久停机

注意：1.down标记的服务器会自动剔除；2.缺省就是轮询；3.此策略适合服务器配置无状态且短平块的服务使用

轮询权值 weight

权重方式，在轮询策略的基础上指定轮询的几率。也可以认为是在轮询的基础上新增了一个weight的参数，此参数指定轮询的几率，值为number。upstream模块配置模板如下：

upstream [服务器组名称]{
　　server [IP地址]:[端口号] weight=2;
　　server [IP地址]:[端口号];
　　....
}

没有weight参数的服务器默认为1，weight的数值与访问比例成正比，所有weight值的总和为一个循环单位，服务器自身的weight值为循环单位内的轮询次数。
注意：1.权重越高分配到的请求越多；2.此策略可以和least_conn策略、iphash策略结合使用；3.此策略比较适合服务器硬件配置差距较大的情况。

IP分配 ip_hash

依据ip分配方式，指定负载均衡器按照基于客户端IP的分配方式，这个方法确保了相同的客户端请求一致发送到相同的服务器，以保证session会话。这样每个访客都固定访问一个后端服务器，可以解决session不能跨服务器的问题。upstream模块配置模板如下：

upstream [服务器组名称]{
　　ip_hash;
　　server [IP地址]:[端口号] weight=2;
　　server [IP地址]:[端口号];
　　....
}

注意：1.nginx1.3.1之前的版本不能在ip_hash中使用权重（weight）；2..ip_hash不能与backup同时使用；3.此策略适合有状态服务的程序，比如session；4.当有服务器需要剔除，必须手动down掉。

最少连接 least-connected

最少连接方式，把请求发给链接数最少的后端服务器。轮询是把请求平均分配给各个后端，使它们的负载大致相同。但是，有些请求占用的时间很长，会导致其所在的后端负载较高。这种情况下，least_conn这种方式就可以达到更好的负载均衡效果。upstream模块配置模板如下：

upstream [服务器组名称]{
　　least_conn;
　　server [IP地址]:[端口号] weight=2;
　　server [IP地址]:[端口号];
　　....
}

注意：此策略适合请求处理时间长短不一造成的服务器过载情况。

响应时间 fair

响应时间方式，按照服务器端的响应时间来分配请求，响应时间短的优先分配。upstream模块配置模板如下：

upstream [服务器组名称]{
　　server [IP地址]:[端口号] weight=2;
　　server [IP地址]:[端口号];
　　....
　　fair;
}

注意：需要安装第三方插件。

URL分配 url_hash

url分配方式，按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，要配合缓存命中来使用。同一个资源多次请求可能会到达不同的服务器上，导致不必要的多次下载，缓存命中率不高，以及一些资源时间的浪费。而使用url_hash，可以使得同一个url（也就是同一个资源请求）会到达同一台服务器，一旦缓存住了资源，再次收到请求，就可以在缓存中读取。upstream模块配置模板如下：

upstream [服务器组名称]{
　　hash $request_uri;
　　server [IP地址]:[端口号] weight=2;
　　server [IP地址]:[端口号];
　　....
}

注意：1.需要安装第三方插件；2.uri，是i，不是小写的L。

测试

先起个Docker

docker run -d --name nginx-test-web -p 8090:8090 -p 8091:8091 -p 8092:8092 -p 8093:8093 -v /root/nginx.conf:/etc/nginx/nginx.conf -v /root/conf.d:/etc/nginx/conf.d nginx

nginx配置

# 主nginx
user  nginx;
worker_processes  1;

error_log  /var/log/nginx/error.log warn;
pid        /var/run/nginx.pid;

events {
    worker_connections  1024;
}

http {
    include       /etc/nginx/mime.types;
    default_type  application/octet-stream;

    log_format  main  '$remote_addr - $remote_user [$time_local] "$request" '
                      '$status $body_bytes_sent "$http_referer" '
                      '"$http_user_agent" "$http_x_forwarded_for"';

    access_log  /var/log/nginx/access.log  main;

    upstream balance_http {
            server xx.xx:8091 weight=2;
            server xx.xx:8092 weight=2;
            server xx.xx:8093;
    }

    sendfile        on;
    keepalive_timeout  65;
    #gzip  on;

    include /etc/nginx/conf.d/*.conf;
}

# 服务nginx
server {
    listen       8090;
    location / {
        proxy_pass http://guwenjie_http;
    }
}
server {
    listen       8091;
    location / {
        default_type    text/plain;
        return 200 "fuzai 1";
    }
}
server {
    listen       8092;
    location / {
        default_type    text/plain;
        return 200 "fuzai 2";
    }
}
server {
    listen       8094;
    location / {
        default_type    text/plain;
        return 200 "fuzai 3";
    }
}