Nginx之负载均衡配置一

  前文我们聊了下nginx作为反向代理服务器,代理后端动态应用服务器的配置,回顾请参考https://www.cnblogs.com/qiuhom-1874/p/12430543.html;今天我们来聊一聊nginx作为反向代理服务器,代理一组服务器的配置(负载均衡);前边我们只说到了nginx怎么去代理后端服务器响应客户端的请求,它在响应客户端请求的流程是这样的,用户请求发送到nginx代理服务器上,此时nginx服务器扮演的就是服务端的角色,客户端是无法感知后端服务器的存在,而用户的报文被nginx接收后,nginx代理服务器它会把用户的请求报文拆开看,用户请求的资源,然后把用户的请求资源,拿到自己的location中进行匹配,如果匹配到了,就按照匹配到的location中定义的代理规则进行代理,在这之前nginx首先会看自己的缓存是否存在用户请求的资源,如果有,它就从缓存中响应用户,如果没有,它就扮演客户端的角色,重新对用户请求重新封装请求报文,发送给后端服务器,后端服务器收到请求后,把对应资源响应给nginx代理服务器,nginx会把后端服务器响应的资源,先缓存一份(如果允许缓存的话),然后在封装响应报文,响应客户端;从这样一个过程来看,nginx它既当服务器角色,又当客户端角色,而且nginx是可以把用户的报文拆开,然后再封装;这是nginx作为代理服务器代理后端服务器响应客户端请求的一个过程(后端服务器是一个的情况);如果后端服务器有多个,都是提供者相同的服务,此时我们该怎么把客户端的请求代理到后端多台服务器呢?

  首先我们来了解下nginx的upstream模块,nginx的upstream模块有两个,一个是基于http协议的upstream,它主要是基于http协议定义后端服务器组,还有一个就是基于tcp协议的upstream,它主要是基于tcp协议定义后端服务器组;我们先说nginx的http里的upstream模块吧!!!

  一、ngx_http_upstream_module:此模块用于定义一组服务器,然后被proxy_pass、fastcgi_pass、uwsgi_pass、scgi_pass和memcached_pass指令引用的服务器组。意思很简单,就是把相同的多台服务器归并成一组服务器,然后nginx基于各种协议的代理,把请求代理到该组上,从而实现把用户请求代理到后端多台服务器上

  1、upstream name {……}:此指令只能用于http配置段中,意思是定义一组后端服务器组;

  2、server address [parameters]:此指令用于upstream配置段中,表示定义upstream配置段中的server成员,以及相关的参数;其中地址的格式支持IP地址加端口的形式,支持unix path路径,也支持主机名或域名加端口的形式;parameters表示参数,常用的参数有weight=number权重,默认是1,max_fails=number表示失败尝试最大次数;超出此处指定的次数,nginx将失败的server标记为不可用;fail_timeout=time表示设置将服务器标记为不可用状态的超时时长;max_conns表示当前的服务器的最大并发连接数;backup表示将服务器标记为“备用”,既所有服务器均不可用时,此服务器才会被启用,有点类似LVS里的sorry server的角色;down表示将服务器标记为“不可用”

  3、least_conn:此指令表示最少连接调度算法,当server拥有不同的权重时表示wlc算法

  4、ip_hash:此指令类似lvs里的sh算法(源地址哈希算法),同一客户端地址始终调度到同一台服务器上;

  5、hash key [consistent]:基于指定的key的hash表示实现对请求的调度,此处的key可以是文本、变量、或者二者的组合;作用是将请求分类,将同一类请求发往同一个upstream的server进行响应;

  6、keepalive connections:为每个worker进程保留的空闲的长连接数量;

  示例:

  定义一组服务器名为webserver

    提示:upstream 只能用于定义在http配置段中,它表示定义一组服务器,名为webserver ,后续调度直接将用户请求代理到该组上即可;

    提示:以上配置表示将用户访问www.proxy.com时将用户请求代理到webserver这个组上的服务器,默认情况下是轮询的;

   提示:可以看到客户端的请求是可以通过nginx把请求代理到后端一组服务器上,从上面的响应结果来看,我们不配置任何权重,它默认就是轮询的(当然上面的结果也有重复的,这个还不太清楚为什么会重复,可能是每个报文的响应速度不一样吧,但总的响应是一样的每个后端服务器各占一半);当然我们也是可以给不同的服务器加上不同的权重,此时nginx作为调度器就是使用的加权轮询,如下配置

    提示:以上配置表示 192.168.0.20这台服务器的权重是5,0.22的权重是2,意思就是7个请求中,0.20处理5个请求,0.22处理2个请求;

   假如我们后端服务器有一台服务出现故障,nginx会不会把用户的请求调度到出现故障的服务器上呢?我们知道在lvs做调度器时,前端lvs会把用户的请求调度到出现故障的服务器上,我们需要借助keepalived或者其他辅助服务去实现对后端服务器做健康状态监测,才能把用户的请求不调度到有故障的后端服务器上,nginx会不会呢?

  提示:可以看到nginx不会把用户的请求调度到有故障的服务器上,这是因为nginx自身就有对后端服务器做健康状态监测的机制,能够及时的发现后端服务器的健康状态,及时的将服务不可用的后端主机从集群中下线,当然这种下线是当服务不可用时,自动触发的动作,我们也可以人为的把后端服务器标记为不可用状态,通常在做灰度发布时可能用到,直接在服务器后面明确用down来标记该服务器,不接受任何请求;

  提示:以上配置表示把0.22这台主机从webserver组中下线,下线的意思就是不再往上调度请求;当然此时的组中服务器就只用0.20这一台主机,用户请求也只能调度到这台上,所以用户不管怎么请求,nginx都只会把请求调度到0.20这台后端主机上;

  假如后面的两台主机都宕机了,此时用户访问我们的网站会不会像lvs那样,有sorry server 来给用户说sorry 呢?

  提示:可以看到当后端主机全部宕机后,没有像lvs里的有sorry server出来给用户说sorry 或者响应客户端请求的;在nginx里sorry server里的配置很简单,只需要在服务器的后面打上backup的标签即可

  提示:以上配置表示把127.0.0.1:80作为sorry server,意思是组里的正常被代理的主机全部宕机后,这台主机才会被调度,当组里主机有一台恢复正常,这台主机就不被调度,用户请求将调度到正常的那一台主机上;

  提示:可以看到当后端主机全部宕机后,sorry server就会被调度;

  提示:当后端主机恢复时,sorry server 就不会被调度,用户的请求将会被代理至恢复的那台主机上;

  以上就是nginx作为负载均衡的常用配置,接下来我们在说说调度算法

  基于源地址hash算法

  提示:以上配置表示同一源地址的客户端请求将会调度到后端某一台server上进行响应

  提示:可以看到同一客户段始终被调度到一台server上进行响应,这种就叫做源地址绑定;除了以上ip_hash;来指定绑定源地址,还可以通过hash key来指定,以上配置等同hash $remote_addr;

  基于用户请求的uri进行绑定,用户请求同一uri始终调度到某一server上响应,这样做的好处可以使缓存命中提高;

  提示:以上配置表示绑定用户请求的rui,不同的用户请求同一rui时,nginx会始终把同一rui的请求调度到同一台server上进行响应;

  提示:可以看到同一客户端请求不同的uri时,会根据请求的uri随机调度到某一台server上进行响应;从上面的配置实例我们可以知道我们把什么当作key来hash,就可以实现基于什么来绑定后端服务器,比如基于用户请求的uri当作hash对象,那么用户请求同一uri就会被调度到同一server上进行响应,如果基于用户源ip地址当作hash对象,那么同一源IP地址的用户,不论请求什么uri都会被调度到同一server进行响应;按这个逻辑我们可以绑定用户的信息来做调度;

  以上就是nginx作为七层代理http请求的负载均衡的常用配置;总结一点nginx作为负载均衡使用其中核心的思想就是把同类服务的服务器先归并到一个组里,然后基于不同协议的代理来把用户的请求反代到该组上,然后基于某种调度算法来实现把用户请求调度到某一台server进行响应;

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐


文章浏览阅读3.7k次,点赞2次,收藏5次。Nginx学习笔记一、Nginx 简介1. 什么是Nginx2. 反向代理3. 负载均衡4. 动静分离二、Nginx基本使用1. Nginx常用的操作命令2. Nginx的配置文件提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档文章目录一、Nginx 简介1. 什么是Nginx2. 反向代理3. 负载均衡4. 动静分离二、Nginx基本使用1. Nginx常用的操作命令2. Nginx的配置文件一、Nginx 简介1. 什么是Nginx  Nginx(“engine x”)是一个_nginx代理
文章浏览阅读1.7w次,点赞14次,收藏61次。我们在使用容器的过程中需,有时候需要对容器中的文件进行修改管理,如果不做文件映射的化,我们使用docker exec -it 容器ID/容器名 /bin/bash 才能进入nginx中的文件里面如图。架设在客户机与目标主机之间,只用于代理内部网络对Internet的连接请求,客户机必须指定代理服务器,并将原本要直接发送到web服务器上的http请求发送到代理服务器中。A想要组C的房子,但是A并不认识C所以租不到,但是B认识C,A找B帮忙租到了C的房子。客户端代理服务器服务器。_docker nginx 配置
文章浏览阅读1.4k次。当用户在访问网站的过程中遇到404错误时,通常情况下应该显示一个友好的错误页面,而不是仅仅显示一个简单的错误提示。在Nginx中,可以通过配置来实现404错误自动跳转到首页的功能。如果您的网站使用动态内容生成页面(如PHP或其他服务器端语言),则应相应地修改配置以适应您的网站架构。这样,当用户访问一个不存在的页面时,Nginx会自动将其重定向到首页。为了使配置生效,需要重新加载Nginx配置。首先,需要打开Nginx的配置文件。现在,当用户访问一个不存在的页面时,Nginx会自动将其重定向到首页。_nginx 404 重定向
文章浏览阅读2.7k次。docker 和 docker-compose 部署 nginx+mysql+wordpress 实战_docker wordpress mariadb
文章浏览阅读1.3k次。5:再次启动nginx,可以正常启动,可以在任务管理器中查看到nginx的进程。重新启动下 直接访问8090端口 ok 访问成功。1 :查看80端口占用情况,pid的值为3960。3:在运行中输入regedit打开注册表编辑器。2: 通过以下命令查看3960所对应的服务名称。4:找到Start,右键修改将其制改为4。_nginx80端口无法访问
文章浏览阅读3.1w次,点赞105次,收藏182次。高性能:Nginx 被设计为能够处理大量并发连接而不显著增加系统负担。它采用异步事件驱动的架构,可以有效地处理高流量的 Web 请求。负载均衡:Nginx 支持负载均衡,可以将请求分发到多个后端服务器,以提高网站性能和可用性。反向代理:Nginx 可以充当反向代理,将客户端请求转发到后端服务器,隐藏后端服务器的真实 IP 地址,增加安全性和可扩展性。静态文件服务:Nginx 可以高效地提供静态文件(如 HTML、CSS、JavaScript、图像等)的服务,减轻应用服务器的负担。
文章浏览阅读976次。nginx作为常用的web代理服务器,某些场景下对于性能要求还是蛮高的,所以本片文章会基于操作系统调度以及网络通信两个角度来讨论一下Nginx性能的优化思路。我们的大学教程大部分讲述七层模型,实际上现代网络协议使用的都是四层模型,如下图,应用层报文经过四层的首部封装到对端。对端链路层拆开首部查看mac地址是自己在网上,拆开ip首部查看目的地址是不是自己,然后到达传输层应用层完成报文接收。文章是基于原有个人知识基础上,对旧知识进行巩固,以及新知识实践学习。
文章浏览阅读5.4k次,点赞9次,收藏15次。最后再说一种情况,就是后端处理了跨域,就不需要自己在处理了(这里吐槽下,某些后端工程师自己改服务端代码解决跨域,但是又不理解其中原理,网上随便找段代码黏贴,导致响应信息可能处理不完全,如method没添加全,headers没加到点上,自己用的那个可能复制过来的并不包含实际项目所用到的,没有添加options请求返回状态码等,导致Nginx再用通用的配置就会可能报以下异常)里面的就好了,因为这里如果是预检请求直接就ruturn了,请求不会再转发到59200服务,如果也删除了,就会报和情况1一样的错误。_nginx 允许跨域
文章浏览阅读2.5k次。项目配置了多个域名,如下,php 代码中有获取的值。当访问a.demo.com时,其获取的值是符合预期的。但是当访问b.demo.com时,其获取的值还是a.demo.com,导致代码中的判断出现错误。_nginxservername多个域名
文章浏览阅读1k次,点赞2次,收藏5次。采用YAML manifest的方式来安装ingress-nginx,用registry.lank8s.cn镜像库来替换 registry.k8s.io的库。_ingress-nginx安装
文章浏览阅读1.6k次,点赞2次,收藏2次。在windows平台编译nginx_windows 编译nginx
文章浏览阅读5.8k次,点赞2次,收藏18次。nginx [engine x] 是 HTTP 和反向代理服务器、邮件代理服务器和通用 TCP/UDP 代理服务器。nginx 的特点是占有内存少,并发能力强,事实上 nginx 的并发能力确实在同类型的网页服务器中表现较好,中国大陆使用nginx网站用户有:百度、京东、新浪、网易、腾讯、淘宝等。在高连接并发的情况下,nginx是Apache服务器不错的替代品,能够支持高达50000个并发连接数的响应。使用epoll and kqueue作为开发模型。_nginx
文章浏览阅读2k次。Linux启动(systemctl start nginx)nginx服务时出现:Failed to start nginx.service: Unit not found._为什么nginx的systemctl start nginx.service不能使用
文章浏览阅读1.3k次。重启之后,打开浏览器,输入http://localhost:8900/myBaidu,这时候就会自动的跳转到百度的页面。按照我们不同的需求修改nginx文件夹中的nginx-1.16.1conf里面的nginx.conf文件。启动nginx:打开nginx的文件夹,然后双击nginx.exe文件,启动nginx。打开之后假设我们需要跳转到百度则在配置文件nginx.conf中的下面加上。1、打开任务管理器关闭nginx的进程。端口在配置文件的(下图)进行查看nginx端口。_nginx 代理百度
文章浏览阅读5.7k次,点赞5次,收藏3次。nginx重定向问题解决(rewrite or internal redirection cycle)_rewrite or internal redirection cycle while internally redirecting to "/inde
文章浏览阅读1.3k次。请注意,上述命令假设 Nginx 已经在系统的 PATH 环境变量中配置。如果没有,请提供正确的 Nginx 安装路径,或者在命令中使用完整的路径来替换。将该命令与所有 Nginx 进程的 PID 一起使用,以终止所有正在运行的 Nginx 进程。此命令将启动一个新的 Nginx 进程来重新加载配置文件并重新启动服务器。使用以下命令来终止所有 Nginx 进程(使用上面的 PID 替换。的进程以及它们的 PID。打开命令提示符(CMD)。此命令将列出所有名为。选项来强制终止进程。_windows 怎么关闭nginx
文章浏览阅读2.7k次,点赞2次,收藏7次。包括 Netflix、GitHub 和 WordPress。Nginx 可以用作 Web 服务器、负载均衡器、反向代理和 HTTP 缓存等。_ubuntu安装nginx
文章浏览阅读915次。轻松搭建短域名短链接服务系统,可选权限认证,并自动生成证书认证把nginx的http访问转换为https加密访问,完整步骤和代码。_nginx 短链代理
文章浏览阅读1.1k次,点赞35次,收藏24次。流媒体方案之Nginx——实现物联网视频监控项目Nginx是什么Nginx在流媒体方案中的位置软硬件准备移植编译Nginx运行Ngnix测试流媒体方案浏览器播放_nginx-rtmp-module
文章浏览阅读1.9k次。nginx 配置 wss 协议转发 ws 服务器_nginx 配置wss