反向代理负载均衡

nginx如何实现负载均衡

nginx是什么？

nginx是⼀款⾃由的、开源的、⾼性能的HTTP服务器和反向代理服务器HTTP服务器和反向代理服务器；同时也是⼀个（IMAP、POP3、SMTP）电⼦邮件代理服务电⼦邮件代理服务

器；nginx能够⽀撑5万并发链接5万并发链接，并且cpu、内存等资源消耗却⾮常低，运⾏⾮常稳定。nginx可以作为⼀个HTTP服务器进⾏⽹站的发布处⽹站的发布处

理，另外nginx可以作为反向代理进⾏负载均衡的实现。反向代理进⾏负载均衡的实现。Nginx作为⼀个基于C实现的⾼性能Web服务器，可以通过系列算法解决上述的系列算法解决上述的

负载均衡问题负载均衡问题。并且由于它具有⾼并发、⾼可靠性、⾼扩展性、开源⾼并发、⾼可靠性、⾼扩展性、开源等特点，成为开发⼈员常⽤的反向代理⼯具。

这⾥主要通过三个⽅⾯简单介绍nginx反向代理负载均衡nginx特点

1、反向代理

反向代理（ReverseProxy）⽅式是指以代理服务器来接受internet上的连接请求，然后将请求转发给内部⽹络上的服务器，并将从服务器

上得到的结果返回给internet上请求连接的客户端,简单来说就是真实的服务器不能直接被外部⽹络访问,想要访问必须通过代理。换句话说，反向

代理的过程中，客户端并不知道具体是哪台服务器处理了⾃⼰的请求。如此⼀来，既提⾼了访问速度，⼜为安全性提供了保证。反向代理需要考虑

的问题是，如何进⾏均衡分⼯，控制流量，避免出现局部节点负载过⼤的问题如何进⾏均衡分⼯，控制流量，避免出现局部节点负载过⼤的问题。通俗的讲，就是如何为每台服务器合理的分配请求，使其整

体具有更⾼的⼯作效率和资源利⽤率。

动静分离

运⽤Nginx的反向代理功能分发请求：所有动态资源的请求交给应⽤服务器所有动态资源的请求交给应⽤服务器，⽽静态资源的请求（例如图⽚、视频、CSS、静态资源的请求（例如图⽚、视频、CSS、

JavaScript⽂件等）则直接由Nginx返回到浏览器JavaScript⽂件等）则直接由Nginx返回到浏览器，这样能⼤⼤减轻应⽤服务器的压⼒。因为它本⾝就是HTTP服务器,异步处理请求极HTTP服务器,异步处理请求极

⾼。

2、负载均衡

负载均衡也是Nginx常⽤的⼀个功能，当⼀台服务器的单位时间内的访问量越⼤时，服务器压⼒就越⼤，⼤到超过⾃⾝承受能⼒时，服务器

就会崩溃。为了避免服务器崩溃，让⽤户有更好的体验，我们通过负载均衡的⽅式负载均衡的⽅式来分担服务器压⼒。我们可以建⽴很多很多服务器，组成⼀

个服务器集群服务器集群，当⽤户访问⽹站时，先访问⼀个中间服务器，在让这个中间服务器在服务器集群中选择⼀个压⼒较⼩的服务器压⼒较⼩的服务器，然后将该访问请

求引⼊该服务器引⼊该服务器。如此以来，⽤户的每次访问，都会保证服务器集群中的每个服务器压⼒趋于平衡压⼒趋于平衡，分担了服务器压⼒服务器压⼒，避免了服务器崩溃避免了服务器崩溃的

情况。负载均衡配置⼀般都需要同时配置反向代理同时配置反向代理，通过反向代理跳转到负载均衡。反向代理跳转到负载均衡。

nginx如何实现负载均衡？

nginx负载均衡要两台或以上的应⽤服务器，并且在中写⼊相关配置，主要是对proxy_passproxy_pass,upstreamupstream的使⽤。

nginx实现负载均衡的⼏种⽅式

⽬前Nginx服务器的upstream模块⽀持6种⽅式的分配：

1、轮询（默认1、轮询（默认round-robin）round-robin）

轮询为负载均衡中较为基础也较为简单的算法，它不需要配置额外参数。假设配置⽂件中共有N台服务器，该算法遍历服务器节点列表，并

按节点次序每轮选择⼀台服务器处理请求。当所有节点均被调⽤过⼀次后，该算法将从第⼀个节点开始重新⼀轮遍历。每个请求按时间顺序逐⼀每个请求按时间顺序逐⼀

分配到不同的后端服务器，如果后端服务器down掉，能⾃动剔除。

特点特点：由于该算法中每个请求按时间顺序逐⼀分配到不同的服务器处理，因此适⽤于服务器性能相近的集群情况，其中每个服务器承载相同的负

载。但对于服务器性能不同的集群⽽⾔，该算法容易引发资源分配不合理服务器性能不同的集群⽽⾔，该算法容易引发资源分配不合理等问题。它是upstream模块upstream模块默认的负载均衡默认策略。每个请求

会按时间顺序逐⼀分配到不同的后端服务器。

upstreambackserver{

server192.168.0.14;

server192.168.0.15;

}

2、加权轮询（weight）

为了避免普通轮询带来的弊端，加权轮询应运⽽⽣。在加权轮询中，每个服务器会有各⾃的weight。⼀般情况下，weight的值越⼤意味weight的值越⼤意味

着该服务器的性能越好着该服务器的性能越好，可以承载更多的请求。该算法中，客户端的请求按权值⽐例分配，当⼀个请求到达时，优先为其分配权值最⼤的服务优先为其分配权值最⼤的服务

器。

特点特点：加权轮询可以应⽤于服务器性能不等的集群中，使资源分配更加合理化。加权轮询可以应⽤于服务器性能不等的集群中，使资源分配更加合理化。

upstreambackserver{

server192.168.0.14weight=8;

server192.168.0.15weight=10;

}

3、IP哈希（IPhash）

ip_hash依据发出请求的客户端IP的hash值来分配服务器，该算法可以保证同IP发出的请求映射到同⼀服务器，或者具有相同hash

值的不同IP映射到同⼀服务器。

特点特点：该算法在⼀定程度上解决了集群部署环境下Session不共享的问题该算法在⼀定程度上解决了集群部署环境下Session不共享的问题。每个请求按访问ip的hash结果分配，这样每个访客固定访问每个访客固定访问

⼀个后端服务器⼀个后端服务器。

实际应⽤中，我们可以利⽤ip_hash，将⼀部分IP下的请求转发到运⾏新版本服务的服务器转发到运⾏新版本服务的服务器，另⼀部分转发到旧版本服务器另⼀部分转发到旧版本服务器上，实

现灰度发布灰度发布。再者，如遇到⽂件过⼤导致请求超时的情况⽂件过⼤导致请求超时的情况，也可以利⽤ip_hash进⾏⽂件的分⽚上传ip_hash进⾏⽂件的分⽚上传，它可以保证同客户端发出的⽂件切同客户端发出的⽂件切

⽚转发到同⼀服务器，利于其接收切⽚以及后续的⽂件合并操作⽚转发到同⼀服务器，利于其接收切⽚以及后续的⽂件合并操作。

upstreambackserver{

ip_hash;

server192.168.0.14:88;

server192.168.0.15:80;

}

4、最⼩连接数（LeastConnections）

传⼊的请求会根据集群中服务器所打开的连接数来分配请求，也就是在集群中连接保持活跃数最低的服务器集群中连接保持活跃数最低的服务器将接受下⼀次连接的请求。

使⽤条件：每台服务器的配置基本相同每台服务器的配置基本相同

5、fair（第三⽅）

按后端服务器的响应时间来分配请求，响应时间短的优先分配。

upstreambackserver{

serverserver1;

serverserver2;

fair;

}

6、6、url_hash（第三⽅）url_hash（第三⽅）

按访问url的hash结果来分配请求，使每个url定向到同⼀个后端服务器，后端服务器为缓存时⽐较有效。后端服务器为缓存时⽐较有效。

upstreambackserver{

serversquid1:3128;

serversquid2:3128;

hash$request_uri;

hash_methodcrc32;

}

在需要使⽤负载均衡的server中增加

upstreambackserver{

ip_hash;

server127.0.0.1:9090down;(down表⽰当前的server暂时不参与负载)

server127.0.0.1:8080weight=2;(weight默认为越⼤，负载的权重就越⼤)

server127.0.0.1:6060;

server127.0.0.1:7070backup;(其它所有的⾮backup机器down或者忙的时候，请求backup机器)

}

max_fails：允许请求失败的次数默认为1.当超过最⼤次数时，返回proxy_next_upstream模块定义的错误

fail_timeout:max_fails次失败后，暂停的时间