利用nginx内置ngx_http_mirror_module模块实现流量复制及流量放大 

分类：Nginx作者：thlzjfefe

利用nginx内置ngx_http_mirror_module模块实现流量复制及流量放大 

 

0. 需求

复制线上真实流量，在不影响真实业务前提下，利用复制流量来做故障分析、性能定位、迁移评估等功能。具体功能包含：

  • 支持或禁止post请求复制
  • 记录复制(镜像)日志

mirror： 中文为镜像的意思，这里指流量复制的目的地。

1. ngx_http_mirror_module模块特性

  • nginx 1.13.4及后续版本内置ngx_http_mirror_module模块，提供流量镜像(复制)的功能。
  • 支持流量放大，做法为：配置多份相同镜像。
  • 相比tcp-copy的优势：无需录制流量，实时可用；配置相当简单。
  • 源站请求，直接原路返回；正常配置下，mirror请求不影响源站请求及响应，源站nginx-server将流量复制到mirror站后，两者不再有任何交集。

2. 安装及配置

正常安装nginx 1.13.4及后续版本。下面配置在1.14.1中验证通过。

2.1 复制get及post请求

server {
        listen       80;
        server_name  web1.www.com;
        # 源站配置
        location / {
                access_log  /data/nginx/1.14.1/logs/web1/access.log  accesslog;
                mirror /mirror;
                mirror_request_body on;# Indicates whether the client request body is mirrored. default value is on.
                proxy_pass http://web1.upstream.name;
        }
        # 镜像站点配置
        location /mirror {
                internal; # 内部配置
                proxy_pass http://mirror.web1.upstream.name$request_uri;
                proxy_pass_request_body on; # Indicates whether the original request body is passed to the proxied server. default value is on
                proxy_set_header X-Original-URI $request_uri; # reset uri
        }
}

2.2 不允许复制post请求

默认是支持post复制的，需要通过配置来禁止

server {
        listen       80;
        server_name  web1.www.com;

        # 源站配置
        location / {
                access_log  /data/nginx/1.14.1/logs/web1/access.log  accesslog;
                mirror /mirror;
                mirror_request_body off;# Indicates whether the client request body is mirrored. default value is on.
                proxy_pass http://web1.upstream.name;
        }

        # 镜像站点配置
        location /mirror {
                # 判断请求方法，不是GET返回403
                if ($request_method != GET) {
                    return 403;
                }
                internal; # 内部配置
                proxy_pass http://mirror.web1.upstream.name$request_uri;
                proxy_pass_request_body off; # Indicates whether the original request body is passed to the proxied server. default value is on
                proxy_set_header Content-Length ""; # mirror_request_body/proxy_pass_request_body都设置为off，则Conten-length需要设置为""，否则有坑
                proxy_set_header X-Original-URI $request_uri; # 使用真实的url重置url
        }
}

3. 流量放大配置方法

配置多分mirror

server {
        listen       80;
        server_name  web1.www.com;
        # 源站配置
        location / {
                access_log  /data/nginx/1.14.1/logs/web1/access.log  accesslog;
                mirror /mirror;
                # 多加一份mirror，流量放大一倍
                mirror /mirror;
                mirror_request_body on;# Indicates whether the client request body is mirrored. default value is on.
                proxy_pass http://web1.upstream.name;
        }
        # 镜像站点配置
        location /mirror {
                internal; # 内部配置
                proxy_pass http://mirror.web1.upstream.name$request_uri;
                proxy_pass_request_body on; # Indicates whether the original request body is passed to the proxied server. default value is on
                proxy_set_header X-Original-URI $request_uri; # reset uri
        }
}

4. mirror日志

mirror中不支持配置access_log，解决方法：mirror-location跳转到server，在server中配置accesslog.

server {
        listen       80;
        server_name  web1.www.com;

        # 源站配置
        location / {
                access_log  /data/nginx/1.14.1/logs/web1/access.log  accesslog;
                mirror /mirror;
                mirror_request_body off;# Indicates whether the client request body is mirrored. default value is on.
                proxy_pass http://web1.upstream.name;
        }

        # 镜像站点配置
        location /mirror {
                internal; # 内部配置
                # 跳转到下面的内部server
                proxy_pass http://127.0.0.1:10901$request_uri;
                proxy_pass_request_body off; # Indicates whether the original request body is passed to the proxied server. default value is on
                # Content-Length必须配置在mirror中否则无效
                proxy_set_header Content-Length ""; # mirror_request_body/proxy_pass_request_body都设置为off，则Conten-length需要设置为""，否则有坑
                proxy_set_header X-Original-URI $request_uri; # 使用真实的url重置url
        }
}

server {
    # server没法设置为内部
    listen 127.0.0.1:10901;
    location / {
        # 判断放在server，使得post请求日志可以记录
        if ($request_method != GET) {
            return 403;
        }
        access_log /data/nginx/1.14.1/logs/web1/access.log  accesslog;
        proxy_pass http://mirror.web1.upstream.name;
    }
}

5. 性能评估

利用jemeter，在相同环境，使用30个并发，各请求3000次get或post方法，参数一样，一组为有mirror配置，另一组为没mirror配置，总体评估，mirror性能损失在5%以内，具体如下： 

97. 坑

97.1 镜像配置不正确缺少相关日志

镜像配置不正确，导致复制操作没正常执行，此时nginx可能缺少错误日志，严重影响调试，所以非常建议配置镜像日志，配置方法如4. mirror日志。部分错误配置下错误信息在error日志中。

97.2 mirror_request_body/proxy_pass_request_body与Content-Length需配置一致

如果mirror_request_body或者proxy_pass_request_body设置为off，则Content-Length必须设置为""，因为nginx(mirror_request_body)或tomcat(mirror_request_body)处理post请求时，会根据Content-Length获取请求体，如果Content-Length不为空，而由于mirror_request_body或者proxy_pass_request_body设置为off，处理方以为post有内容，当request_body中没有，处理方会一直等待至超时，则前者为off，nginx会报upstream请求超时；后者为off，tomcat会报如下错误：

"2018-11-08T17:26:36.803+08:00" "331632b86ec64b829672066a96fc6324"      "department"        "group"   "project_name"        "hostname"    "127.0.0.1"     ""      "/post" "p=11"  "-"     "PostmanRuntime/7.1.1"  "ERROR" "xxx.GlobalControllerAdvice"       "operateExp"    "-"     "26"    "xxxx.GlobalControllerAdvice"       "unknown"       "org.springframework.http.converter.HttpMessageNotReadableException"    "I/O error while reading input message; nested exception is java.net.SocketTimeoutException"    "GlobalControllerAdvice中捕获全局异常"  "org.springframework.http.converter.HttpMessageNotReadableException: I/O error while reading input message; nested exception is java.net.SocketTimeoutException
        at org.springframework.web.servlet.mvc.method.annotation.AbstractMessageConverterMethodArgumentResolver.readWithMessageConverters(AbstractMessageConverterMethodArgumentResolver.java:229)
        at org.springframework.web.servlet.mvc.method.annotation.RequestResponseBodyMethodProcessor.readWithMessageConverters(RequestResponseBodyMethodProcessor.java:150)
        at org.springframework.web.servlet.mvc.method.annotation.RequestResponseBodyMethodProcessor.resolveArgument(RequestResponseBodyMethodProcessor.java:128)
        at org.springframework.web.method.support.HandlerMethodArgumentResolverComposite.resolveArgument(HandlerMethodArgumentResolverComposite.java:121)
        at org.springframework.web.method.support.InvocableHandlerMethod.getMethodArgumentValues(InvocableHandlerMethod.java:158)
        at org.springframework.web.method.support.InvocableHandlerMethod.invokeForRequest(InvocableHandlerMethod.java:128)
        at org.springframework.web.servlet.mvc.method.annotation.ServletInvocableHandlerMethod.invokeAndHandle(ServletInvocableHandlerMethod.java:97)
        at org.springframework.web.servlet.mvc.method.annotation.RequestMappingHandlerAdapter.invokeHandlerMethod(RequestMappingHandlerAdapter.java:827)
        at org.springframework.web.servlet.mvc.method.annotation.RequestMappingHandlerAdapter.handleInternal(RequestMappingHandlerAdapter.java:738)
        at org.springframework.web.servlet.mvc.method.AbstractHandlerMethodAdapter.handle(AbstractHandlerMethodAdapter.java:85)

98. 引文

原文地址：https://blog.csdn.net/thlzjfefe" target="_blank" rel="noopener" title="thlzjfefe">thlzjfefe</a> <img class="article-time-img article-heard-img" src="https://csdnimg.cn/release/blo

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 dio@foxmail.com 举报，一经查实，本站将立刻删除。

相关推荐

学习笔记：深入理解高性能代理服务器——Nginx
文章浏览阅读3.7k次，点赞2次，收藏5次。Nginx学习笔记一、Nginx 简介1. 什么是Nginx2. 反向代理3. 负载均衡4. 动静分离二、Nginx基本使用1. Nginx常用的操作命令2. Nginx的配置文件提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档文章目录一、Nginx 简介1. 什么是Nginx2. 反向代理3. 负载均衡4. 动静分离二、Nginx基本使用1. Nginx常用的操作命令2. Nginx的配置文件一、Nginx 简介1. 什么是Nginx  Nginx（“engine x”）是一个_nginx代理
Docker配置nginx
文章浏览阅读1.7w次，点赞14次，收藏61次。我们在使用容器的过程中需，有时候需要对容器中的文件进行修改管理，如果不做文件映射的化，我们使用docker exec -it 容器ID/容器名 /bin/bash 才能进入nginx中的文件里面如图。架设在客户机与目标主机之间，只用于代理内部网络对Internet的连接请求，客户机必须指定代理服务器，并将原本要直接发送到web服务器上的http请求发送到代理服务器中。A想要组C的房子，但是A并不认识C所以租不到，但是B认识C，A找B帮忙租到了C的房子。客户端代理服务器服务器。_docker nginx 配置
Nginx如何实现404错误自动跳转到首页
文章浏览阅读1.4k次。当用户在访问网站的过程中遇到404错误时，通常情况下应该显示一个友好的错误页面，而不是仅仅显示一个简单的错误提示。在Nginx中，可以通过配置来实现404错误自动跳转到首页的功能。如果您的网站使用动态内容生成页面（如PHP或其他服务器端语言），则应相应地修改配置以适应您的网站架构。这样，当用户访问一个不存在的页面时，Nginx会自动将其重定向到首页。为了使配置生效，需要重新加载Nginx配置。首先，需要打开Nginx的配置文件。现在，当用户访问一个不存在的页面时，Nginx会自动将其重定向到首页。_nginx 404 重定向
docker/docker-compose 部署 nginx+mysql+wordpress 实战
文章浏览阅读2.7k次。docker 和 docker-compose 部署 nginx+mysql+wordpress 实战_docker wordpress mariadb
windows下nginx的安装使用及解决80端口被占用nginx不能启动的问题
文章浏览阅读1.3k次。5：再次启动nginx，可以正常启动，可以在任务管理器中查看到nginx的进程。重新启动下 直接访问8090端口 ok 访问成功。1 ：查看80端口占用情况，pid的值为3960。3：在运行中输入regedit打开注册表编辑器。2： 通过以下命令查看3960所对应的服务名称。4：找到Start，右键修改将其制改为4。_nginx80端口无法访问
【Nginx篇】Nginx轻松上手
文章浏览阅读3.1w次，点赞105次，收藏182次。高性能：Nginx 被设计为能够处理大量并发连接而不显著增加系统负担。它采用异步事件驱动的架构，可以有效地处理高流量的 Web 请求。负载均衡：Nginx 支持负载均衡，可以将请求分发到多个后端服务器，以提高网站性能和可用性。反向代理：Nginx 可以充当反向代理，将客户端请求转发到后端服务器，隐藏后端服务器的真实 IP 地址，增加安全性和可扩展性。静态文件服务：Nginx 可以高效地提供静态文件（如 HTML、CSS、JavaScript、图像等）的服务，减轻应用服务器的负担。
Nginx性能优化
文章浏览阅读976次。nginx作为常用的web代理服务器，某些场景下对于性能要求还是蛮高的，所以本片文章会基于操作系统调度以及网络通信两个角度来讨论一下Nginx性能的优化思路。我们的大学教程大部分讲述七层模型，实际上现代网络协议使用的都是四层模型，如下图，应用层报文经过四层的首部封装到对端。对端链路层拆开首部查看mac地址是自己在网上，拆开ip首部查看目的地址是不是自己，然后到达传输层应用层完成报文接收。文章是基于原有个人知识基础上，对旧知识进行巩固，以及新知识实践学习。
Nginx 轻松搞定跨域问题
文章浏览阅读5.4k次，点赞9次，收藏15次。最后再说一种情况，就是后端处理了跨域，就不需要自己在处理了（这里吐槽下，某些后端工程师自己改服务端代码解决跨域，但是又不理解其中原理，网上随便找段代码黏贴，导致响应信息可能处理不完全，如method没添加全，headers没加到点上，自己用的那个可能复制过来的并不包含实际项目所用到的，没有添加options请求返回状态码等，导致Nginx再用通用的配置就会可能报以下异常）里面的就好了，因为这里如果是预检请求直接就ruturn了，请求不会再转发到59200服务，如果也删除了，就会报和情况1一样的错误。_nginx 允许跨域
踩坑日记-nginx server_name配置多域名的坑
文章浏览阅读2.5k次。项目配置了多个域名，如下，php 代码中有获取的值。当访问a.demo.com时，其获取的值是符合预期的。但是当访问b.demo.com时，其获取的值还是a.demo.com，导致代码中的判断出现错误。_nginxservername多个域名
ingress-nginx控制器安装
文章浏览阅读1k次，点赞2次，收藏5次。采用YAML manifest的方式来安装ingress-nginx，用registry.lank8s.cn镜像库来替换 registry.k8s.io的库。_ingress-nginx安装
Windows环境下编译nginx
文章浏览阅读1.6k次，点赞2次，收藏2次。在windows平台编译nginx_windows 编译nginx
【Nginx】入门看这一篇就够啦，nginx 简介、安装、工作原理、工作方式、详解配置文件
文章浏览阅读5.8k次，点赞2次，收藏18次。nginx [engine x] 是 HTTP 和反向代理服务器、邮件代理服务器和通用 TCP/UDP 代理服务器。nginx 的特点是占有内存少，并发能力强，事实上 nginx 的并发能力确实在同类型的网页服务器中表现较好，中国大陆使用nginx网站用户有：百度、京东、新浪、网易、腾讯、淘宝等。在高连接并发的情况下，nginx是Apache服务器不错的替代品，能够支持高达50000个并发连接数的响应。使用epoll and kqueue作为开发模型。_nginx
Linux启动（systemctl start nginx）nginx服务时出现：Failed to start nginx.service: Unit not found.
文章浏览阅读2k次。Linux启动（systemctl start nginx）nginx服务时出现：Failed to start nginx.service: Unit not found._为什么nginx的systemctl start nginx.service不能使用
Nginx的反向代理
文章浏览阅读1.3k次。重启之后，打开浏览器，输入http://localhost:8900/myBaidu，这时候就会自动的跳转到百度的页面。按照我们不同的需求修改nginx文件夹中的nginx-1.16.1conf里面的nginx.conf文件。启动nginx：打开nginx的文件夹，然后双击nginx.exe文件，启动nginx。打开之后假设我们需要跳转到百度则在配置文件nginx.conf中的下面加上。1、打开任务管理器关闭nginx的进程。端口在配置文件的（下图）进行查看nginx端口。_nginx 代理百度
nginx重定向问题解决（rewrite or internal redirection cycle）
文章浏览阅读5.7k次，点赞5次，收藏3次。nginx重定向问题解决（rewrite or internal redirection cycle）_rewrite or internal redirection cycle while internally redirecting to "/inde
在 Windows 中关闭 Nginx 所有进程
文章浏览阅读1.3k次。请注意，上述命令假设 Nginx 已经在系统的 PATH 环境变量中配置。如果没有，请提供正确的 Nginx 安装路径，或者在命令中使用完整的路径来替换。将该命令与所有 Nginx 进程的 PID 一起使用，以终止所有正在运行的 Nginx 进程。此命令将启动一个新的 Nginx 进程来重新加载配置文件并重新启动服务器。使用以下命令来终止所有 Nginx 进程（使用上面的 PID 替换。的进程以及它们的 PID。打开命令提示符（CMD）。此命令将列出所有名为。选项来强制终止进程。_windows 怎么关闭nginx
如何在 Ubuntu 上安装和使用 Nginx？
文章浏览阅读2.7k次，点赞2次，收藏7次。包括 Netflix、GitHub 和 WordPress。Nginx 可以用作 Web 服务器、负载均衡器、反向代理和 HTTP 缓存等。_ubuntu安装nginx
轻松搭建短域名短链接服务系统，可选权限认证，并自动生成证书认证把nginx的http访问转换为https加密访问，完整步骤和代码
文章浏览阅读915次。轻松搭建短域名短链接服务系统，可选权限认证，并自动生成证书认证把nginx的http访问转换为https加密访问，完整步骤和代码。_nginx 短链代理
流媒体方案之Nginx——实现物联网视频监控项目
文章浏览阅读1.1k次，点赞35次，收藏24次。流媒体方案之Nginx——实现物联网视频监控项目Nginx是什么Nginx在流媒体方案中的位置软硬件准备移植编译Nginx运行Ngnix测试流媒体方案浏览器播放_nginx-rtmp-module
nginx 配置 wss 协议
文章浏览阅读1.9k次。nginx 配置 wss 协议转发 ws 服务器_nginx 配置wss
pythonJavaScriptjavaHTMLPHPreactjsC#AndroidCSSNode.jssqlrpython-3.xMysqLjQueryc++pandasFlutterangularIOSdjangolinuxswifttypescript路由器JSON路由器设置无线路由器h3c华三华三路由器设置华三路由器电脑软件教程arraysdocker软件图文教程Cvue.jslaravelspring-boot