如何解决Nginx-Ingress-Controller限制要部署的rps数
我在高负载下提供数据时遇到了问题,如果特定部署的总rps超过一定数量,我想返回503。我一直在研究他们的速率限制,但是每个客户都有这个限制。
谢谢!
解决方法
我尝试的一种简单方法是限制该部署的资源(CPU和内存)。您还可以为该服务分离入口控制器,并为其限制资源。
或者,服务网格提供更多的自定义项,例如istio
为DestinationRule
对象提供ConnectionPoolSettings,这些对象可以起到类似的作用。
此外,traffic shaping还有一个实验功能,可能会有所帮助,但需要更新您的CNI配置。
供参考:@Dylan发现limit_req_zone的Nginx配置也可以与$host
一起使用来实现。为此,(1)更新您的nginx入口控制器配置映射并添加http-snippet
data:
http-snippet: |
limit_req_zone $host zone=queue:10m rate=1r/s;
您可能必须重新启动控制器容器才能采用新配置。 (2)使用configuration-snippet
将配置应用于Ingress:
apiVersion: extensions/v1beta1
kind: Ingress
metadata:
annotations:
nginx.ingress.kubernetes.io/configuration-snippet: |
limit_req zone=queue burst=12 delay=8;
...
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。