Nginx 负载均衡集群 节点健康检查

分类：Nginx作者：ReturnTmp

前言

正常情况下，nginx 做反向代理负载均衡的话，如果后端节点服务器宕掉的话，nginx 默认是不能把这台服务器踢出 upstream 负载集群的，所以还会有请求转发到后端的这台服务器上面，这样势必造成网站访问故障

注：实际上不仅是后端节点宕掉需要踢出集群，如果说我们发布服务，那么节点服务启动和关闭也是需要时间的，此时也需要踢出和加入集群操作

请求转发

最简单的做法就是使用 proxy_next_upstream，实现请求转发，就是在 localtion 中启用 proxy_next_upstream 来解决返回给用户的错误页面，示例如下：

location /
{
# 如果后端的服务器返回502、504、执行超时等错误
# 自动将请求转发到upstream负载均衡池中的另一台服务器，实现故障转移。
proxy_next_upstream http_502 http_504 http_404 error timeout invalid_header;
}

虽然这样问题可以解决，但是请求还是会转发给这台服务器，然后再转发给别的服务器，这样以来就浪费了一次转发，会损耗网站性能

健康检查

为了避免上述问题，我们可以对后端节点进行节点检查，目前主要有如下三种方式可以实现对 nginx 负载均衡的后端节点服务器进行健康检查

  • nginx 自带模块ngx_http_proxy_module 和 ngx_http_upstream_module

  • ngx_http_healthcheck_module 模块，这是 nginx 官方早期推出的健康检查的模块，但是目前仅支持 nginx 的 1.0.0 版本，1.1.0 版本以后均不支持，常见的生产环境上基本不会使用该模块

  • 淘宝技术团队开发的 nginx_upstream_check_module 模块，更加专业

本次我们使用第三种方法实现节点健康检查

淘宝技术团队开发的 nginx 模快 nginx_upstream_check_module 可以检测后方 realserver 的健康状态，如果后端服务器不可用，则会将其踢出 upstream，所有的请求不转发到这台服务器。当期恢复正常时，将其加入 upstream

在淘宝自己的 tengine 上是自带了该模块的，大家可以访问淘宝 tengine 来获取安装，如果没有使用淘宝的 tengine 的话，也可以通过补丁的方式来添加该模块到 nginx 中

本文为了演示简便，将会使用 tengine 作为示例，当然文末也会附上如何在原生 nginx 集成该模块

安装 Tengine

系统：CentOS 7.6

环境准备

yum -y install gcc-c++
yum -y install pcre pcre-devel
yum -y install zlib zlib-devel
yum -y install openssl openssl-devel

下载解压

cd /usr/local/src/
wget http://tengine.taobao.org/download/tengine-2.3.2.tar.gz

tar -zxvf tengine-2.3.2.tar.gz
cd /usr/local/src/tengine-2.3.2

编译安装

使用下面命令，Tengine 默认将安装在 /usr/local/nginx 目录。你可以用’–prefix’来指定你想要的安装目录

$ ./configure --add-module=./modules/ngx_http_upstream_check_module --add-module=./modules/ngx_http_upstream_session_sticky_module --add-module=./modules/ngx_http_upstream_dynamic_module 
$ make && sudo make install

注：淘宝的 Tengine 升级到 2.3.0 或者2.3.1 都不再默认安装健康检查模块

编译安装之后输出如下文件位置

  nginx path prefix: "/usr/local/nginx"
  nginx binary file: "/usr/local/nginx/sbin/nginx"
  nginx modules path: "/usr/local/nginx/modules"
  nginx configuration prefix: "/usr/local/nginx/conf"
  nginx configuration file: "/usr/local/nginx/conf/nginx.conf"
  nginx pid file: "/usr/local/nginx/logs/nginx.pid"
  nginx error log file: "/usr/local/nginx/logs/error.log"
  nginx http access log file: "/usr/local/nginx/logs/access.log"
  nginx http client request body temporary files: "client_body_temp"
  nginx http proxy temporary files: "proxy_temp"
  nginx http fastcgi temporary files: "fastcgi_temp"
  nginx http uwsgi temporary files: "uwsgi_temp"
  nginx http scgi temporary files: "scgi_temp"

配置后台

vim /usr/lib/systemd/system/nginx.service

[Unit]
Description=nginx
After=network.target

[Service]
Type=forking
ExecStart=/usr/local/nginx/sbin/nginx
ExecReload=/usr/local/nginx/sbin/nginx -s reload
ExecStop=/usr/local/nginx/sbin/nginx -s quit
PrivateTmp=true

[Install]
WantedBy=multi-user.target

之后即可使用 systemctl 设置 nginx 开启，关闭，开机自启等

nginx 配置文件路径 /usr/local/nginx/conf/nginx.conf

可以配置节点健康检查如下

http {

    upstream cluster1 {
        server 172.25.234.148:9001;
        server 172.25.234.148:9002;

        check interval=3000 rise=2 fall=3 timeout=1000 type=http;
        check_http_send "HEAD /actuator/health HTTP/1.0\r\n\r\n";
        check_http_expect_alive http_2xx http_3xx;
    }
    
    server {
    
        location /springboot {  
            proxy_pass http://cluster1/;  
        }

        location /status {
            check_status;

            access_log   off;
            #allow IP;
            #deny all;
        }
    }
}

我们配置了 server 172.25.234.148:9001 server 172.25.234.148:9002 两个服务开发端口

check interval=3000 rise=2 fall=3 timeout=1000 type=http

  • interval：向后端发送的健康检查包的间隔。
  • fall：如果连续失败次数达到指定次数，服务器就被认为是 DOWN。
  • rise：如果连续成功次数达到指定次数，服务器就被认为是 UP。
  • timeout：后端健康请求的超时时间。
  • type：健康检查包的类型，现在支持以下多种类型 tcp、ssl_hello、http、mysql、ajp。

其实还可以配置 port：指定后端服务器的检查端口，并且最好和实际业务端口不同，防止将健康状态通过 nginx 暴露到外网中，但是这里为了方便没有指定，也就是将业务和健康检查接口配置在同一端口

check_http_send "HEAD /actuator/health HTTP/1.0\r\n\r\n"; 配置项，该指令可以配置 http 健康检查包发送的请求内容。为了减少传输数据量，推荐采用 "HEAD" 方法，该接口地址  /actuator/health 后面我们会使用 Spring Actuator 配置

check_http_expect_alive http_2xx http_3xx; 配置项，该指令指定 HTTP 回复的成功状态，默认认为 2XX 和 3XX 的状态是健康的。注意，在 Actuator 提供的 health 端点，在返回服务器是 UP 状态时的状态码为 200，在返回服务器是 DOWN 状态时的状态码为 503，满足该 check_http_expect_alive 配置项

location /springboot 配置项，我们创建了一个 Location，转发到我们配置的 Upstream。

location /status 配置项，我们创建了一个 Location，转发到 Tengine 提供的服务器的健康状态页，之后可以访问 http://ip/status 就可以看到当前两台 realserver 实时的健康状态

之后重启 nginx 即可生效，后面我们配置 actuator 节点健康检查

注意

在生产环境的实施应用中需要注意下面两点

1）主要定义好 type。由于默认的 type 是 tcp 类型，因此假设服务启动，不管是否初始化完毕，它的端口都会起来，所以此时前段负载均衡器为认为该服务已经可用，其实是不可用状态。
2）注意 check_http_send 值的设定。由于它的默认值是GET / HTTP/1.0\r\n\r\n。
假设应用是通过 http://ip/name 访问的，那么这里 check_http_send 值就需要更改为GET /name HTTP/1.0\r\n\r\n才可以。
针对采用长连接进行检查的，这里增加 keep-alive 请求头，即HEAD /name HTTP/1.1\r\nConnection: keep-alive\r\n\r\n。
如果后端的 tomcat 是基于域名的多虚拟机，此时你需要通过 check_http_send 定义 host，不然每次访问都是失败，范例：

check_http_send "GET /mobileapi HTTP/1.0\r\n HOST  www.redhat.sx\r\n\r\n" ;

配置 Actuator

示例仓库地址：ReturnTmp/spring-actuator-demo (github.com)

依赖配置 pom.xml

        <!-- actuator -->
        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-actuator</artifactId>
            <version>3.1.0</version>
        </dependency>

application.yml

server:  
  port: 9000  
# 需要开放的端点。默认值只打开 health 和 info 两个端点。通过设置 * ，可以开放所有端点。  
management:  
  endpoints:  
    web:  
      exposure:  
        include: '*'

添加接口，可以输出服务端口

    @GetMapping("/port")
    public Object port() {
        return String.format("port=%s", env.getProperty("local.server.port"));
    }

可以单独配置 actuator 展示端口，防止 nginx 暴露，但是为了演示简便起见，本次不单独设置端口

management:
  server:
    port: 8078

启动项目即可通过 /actuator/health 接口查看健康状态

然后给项目 maven 打包 package ，给对应 jar 包上传服务器，分别在两个窗口运行两个服务（nohup 后台运行也可以）

java -jar spring-actuator-demo-0.0.1-SNAPSHOT.jar --server.port=9001
java -jar spring-actuator-demo-0.0.1-SNAPSHOT.jar --server.port=9002

此时访问 http://ip/springboot/port

通过输出的端口可以发现已经顺利实现负载均衡，然后给其中一个服务挂掉，可以发现并没有出现部分请求无法访问问题

然后重新启动挂掉的服务，访问接口，可以发现过了一段时间后节点自动添加到了负载均衡集群中

访问： http://ip/status 可以查看负载均衡集群节点

image.png

集成模块

编译安装

[root@localhost ~]# cd /usr/local/src
[root@localhost src]# wget https://github.com/yaoweibin/nginx_upstream_check_module/archive/master.zip
[root@localhost src]# unzip nginx_upstream_check_module-master.zip
[root@localhost src]# ls
master.zip  nginx_upstream_check_module-master

[root@localhost src]# wget http://nginx.org/download/nginx-1.8.0.tar.gz
[root@localhost src]# tar -zxvf nginx-1.8.0.tar.gz
[root@localhost src]# cd nginx-1.8.0

[root@localhost nginx-1.8.0]# patch -p1 < ../nginx_upstream_check_module-master/check_1.9.2+.patch
[root@localhost nginx-1.8.0]# ./configure --prefix=/usr/local/nginx --user=nginx --group=nginx --with-http_ssl_module --with-http_flv_module --with-http_stub_status_module --with-http_gzip_static_module --with-pcre --add-module=../nginx_upstream_check_module-master/
[root@node1 src]# make && make install

配置 nginx

[root@master-node ~]# vim /usr/local/nginx/conf/vhosts/LB.conf
upstream LB-WWW {
      server 192.168.1.101:80;
      server 192.168.1.102:80;
      check interval=3000 rise=2 fall=5 timeout=1000 type=http;
      check_keepalive_requests 100;
      check_http_send "HEAD / HTTP/1.1\r\nConnection: keep-alive\r\n\r\n";
      check_http_expect_alive http_2xx http_3xx;
    }

server {
     listen       80;
     server_name  www.wangshibo.com;

      access_log  /usr/local/nginx/logs/www-access.log main;
      error_log  /usr/local/nginx/logs/www-error.log;

     location / {
         proxy_pass http://LB-WWW;
         proxy_redirect off ;
         proxy_set_header Host $host;
         proxy_set_header X-Real-IP $remote_addr;
         proxy_set_header REMOTE-HOST $remote_addr;
         proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
         proxy_connect_timeout 300;
         proxy_send_timeout 300;
         proxy_read_timeout 600;
         proxy_buffer_size 256k;
         proxy_buffers 4 256k;
         proxy_busy_buffers_size 256k;
         proxy_temp_file_write_size 256k;
         proxy_next_upstream error timeout invalid_header http_500 http_503 http_404;
         proxy_max_temp_file_size 128m;
         proxy_cache mycache;
         proxy_cache_valid 200 302 60m;
         proxy_cache_valid 404 1m;
        }

       location /nstatus {
         check_status;
         access_log off;
         #allow IP;
         #deny all;
       }
}

参考链接

本文由博客一文多发平台 OpenWrite 发布！

原文地址：https://blog.csdn.net/m0_63748493/article/details/135377151

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 dio@foxmail.com 举报，一经查实，本站将立刻删除。

相关推荐

学习笔记：深入理解高性能代理服务器——Nginx
文章浏览阅读3.7k次，点赞2次，收藏5次。Nginx学习笔记一、Nginx 简介1. 什么是Nginx2. 反向代理3. 负载均衡4. 动静分离二、Nginx基本使用1. Nginx常用的操作命令2. Nginx的配置文件提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录一、Nginx 简介1. 什么是Nginx2. 反向代理3. 负载均衡4. 动静分离二、Nginx基本使用1. Nginx常用的操作命令2. Nginx的配置文件一、Nginx 简介1. 什么是Nginx  Nginx（“engine x”）是一个_nginx代理
Docker配置nginx
文章浏览阅读1.7w次，点赞14次，收藏61次。我们在使用容器的过程中需，有时候需要对容器中的文件进行修改管理，如果不做文件映射的化，我们使用docker exec -it 容器ID/容器名 /bin/bash 才能进入nginx中的文件里面如图。架设在客户机与目标主机之间，只用于代理内部网络对Internet的连接请求，客户机必须指定代理服务器，并将原本要直接发送到web服务器上的http请求发送到代理服务器中。A想要组C的房子，但是A并不认识C所以租不到，但是B认识C，A找B帮忙租到了C的房子。客户端代理服务器服务器。_docker nginx 配置
Nginx如何实现404错误自动跳转到首页
文章浏览阅读1.4k次。当用户在访问网站的过程中遇到404错误时，通常情况下应该显示一个友好的错误页面，而不是仅仅显示一个简单的错误提示。在Nginx中，可以通过配置来实现404错误自动跳转到首页的功能。如果您的网站使用动态内容生成页面（如PHP或其他服务器端语言），则应相应地修改配置以适应您的网站架构。这样，当用户访问一个不存在的页面时，Nginx会自动将其重定向到首页。为了使配置生效，需要重新加载Nginx配置。首先，需要打开Nginx的配置文件。现在，当用户访问一个不存在的页面时，Nginx会自动将其重定向到首页。_nginx 404 重定向
docker/docker-compose 部署 nginx+mysql+wordpress 实战
文章浏览阅读2.7k次。docker 和 docker-compose 部署 nginx+mysql+wordpress 实战_docker wordpress mariadb
windows下nginx的安装使用及解决80端口被占用nginx不能启动的问题
文章浏览阅读1.3k次。5：再次启动nginx，可以正常启动，可以在任务管理器中查看到nginx的进程。重新启动下 直接访问8090端口 ok 访问成功。1 ：查看80端口占用情况，pid的值为3960。3：在运行中输入regedit打开注册表编辑器。2： 通过以下命令查看3960所对应的服务名称。4：找到Start，右键修改将其制改为4。_nginx80端口无法访问
【Nginx篇】Nginx轻松上手
文章浏览阅读3.1w次，点赞105次，收藏182次。高性能：Nginx 被设计为能够处理大量并发连接而不显著增加系统负担。它采用异步事件驱动的架构，可以有效地处理高流量的 Web 请求。负载均衡：Nginx 支持负载均衡，可以将请求分发到多个后端服务器，以提高网站性能和可用性。反向代理：Nginx 可以充当反向代理，将客户端请求转发到后端服务器，隐藏后端服务器的真实 IP 地址，增加安全性和可扩展性。静态文件服务：Nginx 可以高效地提供静态文件（如 HTML、CSS、JavaScript、图像等）的服务，减轻应用服务器的负担。
Nginx性能优化
文章浏览阅读976次。nginx作为常用的web代理服务器，某些场景下对于性能要求还是蛮高的，所以本片文章会基于操作系统调度以及网络通信两个角度来讨论一下Nginx性能的优化思路。我们的大学教程大部分讲述七层模型，实际上现代网络协议使用的都是四层模型，如下图，应用层报文经过四层的首部封装到对端。对端链路层拆开首部查看mac地址是自己在网上，拆开ip首部查看目的地址是不是自己，然后到达传输层应用层完成报文接收。文章是基于原有个人知识基础上，对旧知识进行巩固，以及新知识实践学习。
Nginx 轻松搞定跨域问题
文章浏览阅读5.4k次，点赞9次，收藏15次。最后再说一种情况，就是后端处理了跨域，就不需要自己在处理了（这里吐槽下，某些后端工程师自己改服务端代码解决跨域，但是又不理解其中原理，网上随便找段代码黏贴，导致响应信息可能处理不完全，如method没添加全，headers没加到点上，自己用的那个可能复制过来的并不包含实际项目所用到的，没有添加options请求返回状态码等，导致Nginx再用通用的配置就会可能报以下异常）里面的就好了，因为这里如果是预检请求直接就ruturn了，请求不会再转发到59200服务，如果也删除了，就会报和情况1一样的错误。_nginx 允许跨域
踩坑日记-nginx server_name配置多域名的坑
文章浏览阅读2.5k次。项目配置了多个域名，如下，php 代码中有获取的值。当访问a.demo.com时，其获取的值是符合预期的。但是当访问b.demo.com时，其获取的值还是a.demo.com，导致代码中的判断出现错误。_nginxservername多个域名
ingress-nginx控制器安装
文章浏览阅读1k次，点赞2次，收藏5次。采用YAML manifest的方式来安装ingress-nginx，用registry.lank8s.cn镜像库来替换 registry.k8s.io的库。_ingress-nginx安装
Windows环境下编译nginx
文章浏览阅读1.6k次，点赞2次，收藏2次。在windows平台编译nginx_windows 编译nginx
【Nginx】入门看这一篇就够啦，nginx 简介、安装、工作原理、工作方式、详解配置文件
文章浏览阅读5.8k次，点赞2次，收藏18次。nginx [engine x] 是 HTTP 和反向代理服务器、邮件代理服务器和通用 TCP/UDP 代理服务器。nginx 的特点是占有内存少，并发能力强，事实上 nginx 的并发能力确实在同类型的网页服务器中表现较好，中国大陆使用nginx网站用户有：百度、京东、新浪、网易、腾讯、淘宝等。在高连接并发的情况下，nginx是Apache服务器不错的替代品，能够支持高达50000个并发连接数的响应。使用epoll and kqueue作为开发模型。_nginx
Linux启动（systemctl start nginx）nginx服务时出现：Failed to start nginx.service: Unit not found.
文章浏览阅读2k次。Linux启动（systemctl start nginx）nginx服务时出现：Failed to start nginx.service: Unit not found._为什么nginx的systemctl start nginx.service不能使用
Nginx的反向代理
文章浏览阅读1.3k次。重启之后，打开浏览器，输入http://localhost:8900/myBaidu，这时候就会自动的跳转到百度的页面。按照我们不同的需求修改nginx文件夹中的nginx-1.16.1conf里面的nginx.conf文件。启动nginx：打开nginx的文件夹，然后双击nginx.exe文件，启动nginx。打开之后假设我们需要跳转到百度则在配置文件nginx.conf中的下面加上。1、打开任务管理器关闭nginx的进程。端口在配置文件的（下图）进行查看nginx端口。_nginx 代理百度
nginx重定向问题解决（rewrite or internal redirection cycle）
文章浏览阅读5.7k次，点赞5次，收藏3次。nginx重定向问题解决（rewrite or internal redirection cycle）_rewrite or internal redirection cycle while internally redirecting to "/inde
在 Windows 中关闭 Nginx 所有进程
文章浏览阅读1.3k次。请注意，上述命令假设 Nginx 已经在系统的 PATH 环境变量中配置。如果没有，请提供正确的 Nginx 安装路径，或者在命令中使用完整的路径来替换。将该命令与所有 Nginx 进程的 PID 一起使用，以终止所有正在运行的 Nginx 进程。此命令将启动一个新的 Nginx 进程来重新加载配置文件并重新启动服务器。使用以下命令来终止所有 Nginx 进程（使用上面的 PID 替换。的进程以及它们的 PID。打开命令提示符（CMD）。此命令将列出所有名为。选项来强制终止进程。_windows 怎么关闭nginx
如何在 Ubuntu 上安装和使用 Nginx？
文章浏览阅读2.7k次，点赞2次，收藏7次。包括 Netflix、GitHub 和 WordPress。Nginx 可以用作 Web 服务器、负载均衡器、反向代理和 HTTP 缓存等。_ubuntu安装nginx
轻松搭建短域名短链接服务系统，可选权限认证，并自动生成证书认证把nginx的http访问转换为https加密访问，完整步骤和代码
文章浏览阅读915次。轻松搭建短域名短链接服务系统，可选权限认证，并自动生成证书认证把nginx的http访问转换为https加密访问，完整步骤和代码。_nginx 短链代理
流媒体方案之Nginx——实现物联网视频监控项目
文章浏览阅读1.1k次，点赞35次，收藏24次。流媒体方案之Nginx——实现物联网视频监控项目Nginx是什么Nginx在流媒体方案中的位置软硬件准备移植编译Nginx运行Ngnix测试流媒体方案浏览器播放_nginx-rtmp-module
nginx 配置 wss 协议
文章浏览阅读1.9k次。nginx 配置 wss 协议转发 ws 服务器_nginx 配置wss
pythonJavaScriptjavaHTMLPHPreactjsC#AndroidCSSNode.jssqlrpython-3.xMysqLjQueryc++pandasFlutterangularIOSdjangolinuxswifttypescript路由器JSON路由器设置无线路由器h3c华三华三路由器设置华三路由器电脑软件教程arraysdocker软件图文教程Cvue.jslaravelspring-boot