【K8S系列】深入解析k8s 网络插件—kube-router

分类：k8s作者：颜淡慕潇

序言

做一件事并不难，难的是在于坚持。坚持一下也不难，难的是坚持到底。

文章标记颜色说明：

  • 黄色：重要标题
  • 红色：用来标记结论
  • 绿色：用来标记论点
  • 蓝色：用来标记论点

在现代容器化应用程序的世界中，容器编排平台Kubernetes已经成为标准。Kubernetes是一个分布式系统，为了支持复杂的应用和微服务架构，网络是Kubernetes集群中不可或缺的一部分。

能够管理和编排容器化应用程序，其中，监控是一个非常重要的方面，可以帮助用户了解集群的健康状态、性能和可用性。

在本文中，将详细介绍Kubernetes网络插件中的【kube-router】插件。

希望这篇文章能让你不仅有一定的收获，而且可以愉快的学习，如果有什么建议，都可以留言和我交流

 专栏介绍

这是这篇文章所在的专栏，欢迎订阅：【深入解析k8s】专栏

简单介绍一下这个专栏要做的事：

1 基础介绍 

在Kubernetes中，网络插件也称为容器网络接口（Container Network Interface，CNI）插件，用于实现容器之间的通信和网络连接。以下是一些常见的Kubernetes网络插件：

  1. Flannel：Flannel是一个流行的CNI插件，它使用虚拟网络覆盖技术（overlay network）来连接不同节点上的容器。Flannel支持多种后端驱动，如VXLAN、UDP、Host-GW等。

  2. Calico：Calico是一个开源的网络和安全解决方案，它使用BGP协议来实现容器之间的路由。Calico支持灵活的网络策略和安全规则，可用于大规模部署。

  3. Weave Net：Weave Net是一个轻量级的CNI插件，通过创建虚拟网络设备和网络代理来连接不同节点上的容器。Weave Net支持overlay模式和直连模式，具有灵活性。

  4. Cilium：Cilium是面向Kubernetes的高性能网络和安全解决方案，利用eBPF（Extended Berkeley Packet Filter）技术来提供快速的容器间通信和网络策略实施。

  5. Canal：Canal是一个综合性的CNI插件，结合了Calico和Flannel的功能。它可以使用Flannel提供overlay网络，同时使用Calico的网络策略和安全性功能。

  6. Antrea：Antrea是一个基于Open vSwitch的CNI插件，专为Kubernetes网络和安全性而设计。它提供了高性能的网络连接和网络策略功能。

  7. kube-router：kube-router是一个开源的CNI插件，它结合了网络和服务代理功能。它支持BGP和IPIP协议，并具有负载均衡的特性。

这些是Kubernetes网络插件中的一些常见选项，每个插件都有其特定的优势和适用场景。选择合适的网络插件取决于你的需求、网络拓扑和性能要求等因素。

同时，Kubernetes社区也在不断发展和推出新的网络插件，以满足不断变化的需求。

2 kube-router 介绍

kube-router是一个开源的Kubernetes网络插件，旨在提供高性能、低延迟的网络服务。它采用了三层路由（Layer 3 Routing）的方式，以实现Kubernetes集群中的网络通信。

2.1 核心概念

kube-router的核心概念包括：

  1. BGP路由器：kube-router使用BGP（Border Gateway Protocol）来实现路由，这意味着它能够动态地适应集群中的节点变化。每个节点都被配置为BGP路由器，它们共享网络信息，确保容器之间的通信能够高效、可靠地进行。

  2. IPVS负载均衡：kube-router使用IPVS（IP Virtual Server）来实现负载均衡，以确保流量在容器之间均匀分配。这提供了高性能和可扩展性，特别适用于大规模Kubernetes集群。

  3. 网络策略：kube-router支持Kubernetes网络策略，允许管理员定义和控制哪些容器可以相互通信。这增强了集群的安全性。

2.2 三层路由

kube-router采用三层路由（Layer 3 Routing）的方式来实现Kubernetes集群中的网络通信。这种方式是与传统的二层（Layer 2）网络模型不同的，具有一些独特的优势和特征。下面详细介绍kube-router的三层路由方式：

  1. IP层路由：kube-router的核心思想是在IP层面上进行路由。在Kubernetes中，每个容器都分配了一个唯一的IP地址，这使得在IP层进行路由变得更加直观和高效。kube-router利用这些IP地址来实现容器之间的通信和流量控制。

  2. BGP（Border Gateway Protocol）路由协议：kube-router使用BGP作为其主要路由协议。BGP是一种广泛用于互联网路由的协议，它具有高度可扩展性和弹性。每个Kubernetes节点都配置为一个BGP路由器，它们通过BGP协议来交换路由信息。这意味着当新的节点加入集群或现有节点离开集群时，路由信息会自动更新，无需手动配置路由表。

  3. 动态路由：由于BGP的特性，kube-router实现了动态路由。这意味着当新的容器创建或删除时，路由表会相应地更新，以反映集群中的实际网络拓扑。这种自动化的路由管理使得Kubernetes集群的维护和扩展变得更加容易，无需手动干预。

  4. 高性能和负载均衡：kube-router利用Linux内核中的IPVS（IP Virtual Server）来实现负载均衡。IPVS是一种高性能的负载均衡技术，能够有效地将流量分发到多个容器之间，从而提供了高吞吐量和低延迟的网络性能。这对于处理大量的容器流量非常重要，特别是在大规模Kubernetes集群中。

  5. 网络策略支持：kube-router还支持Kubernetes网络策略。网络策略允许管理员定义哪些容器可以与哪些其他容器通信，以及如何允许或拒绝流量。这提供了额外的安全性和细粒度的流量控制，以满足不同应用程序的需求。

总之，kube-router的三层路由方式是一种灵活且高性能的方法，用于管理Kubernetes集群的网络通信。

它利用IP层路由、BGP协议、动态路由和负载均衡等技术，为容器提供了可靠的网络连接，并具有良好的扩展性和自动化特性，使得管理和维护Kubernetes网络变得更加容易和可靠。

2.3 优缺点

优点

  1. 高性能：kube-router采用了IPVS和BGP等高性能技术，因此具有出色的网络性能，适用于大规模Kubernetes集群。

  2. 可扩展性：由于使用了BGP路由协议，kube-router在节点的动态扩展和缩减方面表现出色，无需手动配置路由信息。

  3. 网络策略支持：kube-router支持Kubernetes网络策略，允许细粒度的流量控制，提高了安全性。

  4. 开源社区支持：kube-router是一个开源项目，拥有活跃的社区，可以获得及时的技术支持和更新。

缺点

  1. 复杂性：kube-router的配置和部署相对较复杂，需要一定的Kubernetes网络知识。

  2. 维护成本：由于其高度自动化的特性，kube-router需要专业的维护，以确保顺畅运行。

2.4 使用场景

kube-router适用于需要高性能和可扩展性的Kubernetes集群，特别是那些运行大量容器的生产环境。以下是一些适用场景：

  1. 大规模集群：对于大型Kubernetes集群，kube-router的性能和自动化特性非常有用，可以管理大量容器的网络通信。

  2. 多云跨数据中心部署：kube-router支持多云和跨数据中心部署，使得跨多个地理位置的Kubernetes集群之间的通信变得简单。

  3. 安全敏感环境：由于支持Kubernetes网络策略，kube-router适用于需要强化网络安全的环境，可通过网络策略精确控制流量。

3 安装步骤

安装kube-router需要一定的Kubernetes集群知识，以下是简要的安装步骤：

  1. 创建Kubernetes集群

  2. 安装kube-router

  3. 配置BGP路由器

  4. 启用网络策略

  5. 验证安装

步骤 1：创建Kubernetes集群

可以选择不同的方法来创建Kubernetes集群，下面是使用kubeadm的示例：

  1. 安装kubeadm、kubelet和kubectl工具，以及Docker（或其他容器运行时）。

  2. 初始化Kubernetes控制平面节点（Master节点）：

sudo kubeadm init --pod-network-cidr=10.244.0.0/16

 安装网络插件，这里将使用kube-router。但在这一步，只需安装kubeadm和kubelet，并不需要具体的网络插件。

步骤 2：安装kube-router

接下来，您需要将kube-router安装到Kubernetes集群中。通常，您可以使用Helm Chart或YAML清单文件来完成此操作。以下是使用YAML清单文件的示例：

 1 从kube-router的GitHub仓库获取最新的清单文件：

git clone https://github.com/cloudnativelabs/kube-router.git
cd kube-router

2 部署kube-router到集群中：

kubectl apply -f kube-router-all-in-one.yaml

这将会创建kube-router的Pods和相关的Service。

步骤 3：配置BGP路由器

kube-router默认使用BGP路由协议来进行路由管理。需要配置BGP路由器的相关信息，包括AS号等。这些配置信息通常包含在YAML清单文件中，以供kube-router使用。

可以编辑kube-router的ConfigMap，将BGP路由器的配置信息添加到其中。例如，打开ConfigMap文件：

kubectl edit configmap kube-router-config -n kube-system

然后，添加或修改BGP配置信息，如下所示：

apiVersion: v1
data:
  kubeconfig: |
    <kubeconfig-data>
  bgpConfig: |
    <bgp-config-data>

步骤 4：启用网络策略（可选）

如果需要启用Kubernetes网络策略，可以创建网络策略对象。以下是一个简单的示例：

apiVersion: networking.k8s.io/v1
kind: NetworkPolicy
metadata:
  name: allow-internal-traffic
spec:
  podSelector:
    matchLabels:
      role: internal
  ingress:
  - from:
    - podSelector:
        matchLabels:
          role: internal

使用kubectl apply将网络策略对象应用到集群中。

步骤 5：验证安装

最后，使用以下命令验证kube-router的安装是否成功，并确保它正常运行：

kubectl get pods -n kube-system

应该能够看到kube-router的Pods处于运行状态。如果一切正常，kube-router现在已经成功地集成到Kubernetes集群中，负责网络路由和通信。

4 拓展

什么是BGP

Border Gateway Protocol（BGP），中文译为边界网关协议，是互联网上广泛使用的一种路由协议。

BGP是一种路径矢量协议，主要用于在不同自治系统（AS，Autonomous System）之间交换路由信息，以决定数据包应该如何跨越互联网传输。以下是关于BGP路由协议的详细介绍：

1. 自治系统（AS）：

  • 一个自治系统是一组网络、路由器和IP地址的集合，它们被视为一个单一的管理单位。AS内的路由器使用内部协议来决定如何路由内部流量，而BGP主要用于AS之间的路由决策。

2. BGP路由器：

  • BGP路由器是配置了BGP协议的网络设备，用于交换路由信息并决定最佳路径。通常，大型互联网服务提供商和大型企业网络会运行BGP路由器。

3. 路由信息交换：

  • BGP路由器之间通过TCP连接进行路由信息的交换。BGP路由器会定期向相邻路由器发送路由更新信息，这包括可达的IP前缀及其相关属性。

4. BGP路径选择：

  • BGP使用一种复杂的路径选择算法来确定数据包的最佳路径。它考虑了多种因素，包括AS路径长度、前缀属性（如前缀长度、AS-PATH、NEXT-HOP等），以及各种策略、筛选条件等。

5. BGP属性：

  • BGP路由表中的每个路由都附带一组属性，用于描述该路由的特性。常见的BGP属性包括：

    • AS-PATH：描述了数据包从源AS到目标AS的路径。
    • NEXT-HOP：指示数据包下一跳的IP地址。
    • 前缀长度：指定了可达前缀的子网掩码长度。
    • LOCAL-PREF：用于在AS内部选择最佳路径。
    • MED（Multi-Exit Discriminator）：用于在同一AS的不同出口路由之间选择路径。

6. BGP策略：

  • BGP允许网络管理员定义各种策略来控制路由信息的传播和选择。这些策略可以用于路由筛选、路由聚合、路由重分发等操作，以满足网络的特定需求。

7. BGP的用途：

  • BGP主要用于连接不同自治系统，因此在互联网中起到关键作用。它允许不同的网络提供商协同工作，确保全球互联网的可达性和稳定性。

8. BGP的安全性：

  • 由于BGP协议的开放性，它容易受到不同类型的攻击，如路由劫持和路由欺骗。为了增强BGP的安全性，网络社区正在积极推动BGP的改进和增强安全机制，如BGPsec（BGP Security）。

总之，BGP是互联网中最重要的路由协议之一，用于实现不同自治系统之间的路由交换和路径选择。

它的复杂性和灵活性使其成为互联网的骨干，并且需要经验丰富的网络管理员来配置和维护。

BGP的稳定性和可靠性对于互联网的正常运行至关重要，因此其安全性也备受关注和改进。

5 结论

kube-router是一个高性能、可扩展的Kubernetes网络插件，适用于大规模和安全敏感的生产环境。

虽然它的配置和部署可能有一定的复杂性，但它提供了出色的性能和自动化特性，可以大大简化Kubernetes集群的网络管理。

在选择网络插件时，考虑集群规模和性能需求，kube-router可能是一个非常好的选择。

原文地址：https://blog.csdn.net/weixin_36755535/article/details/133679208

版权声明：本文内容由互联网用户自发贡献，该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 dio@foxmail.com 举报，一经查实，本站将立刻删除。

相关推荐

【博客694】k8s kubelet 状态更新机制
文章浏览阅读942次。kube-controller-manager 和 kubelet 是异步工作的，这意味着延迟可能包括任何的网络延迟、apiserver 的延迟、etcd 延迟，一个节点上的负载引起的延迟等等。当 Kubernetes 中 Node 节点出现状态异常的情况下，节点上的 Pod 会被重新调度到其他节点上去，但是有的时候我们会发现节点 Down 掉以后，Pod 并不会立即触发重新调度，这实际上就是和 Kubelet 的状态更新机制密切相关的，Kubernetes 提供了一些参数配置来触发重新调度的时间。_node-monitor-period
滴滴弹性云基于 K8S 的调度实践
文章浏览阅读3.8k次。上篇文章详细介绍了弹性云混部的落地历程，弹性云是滴滴内部提供给网约车等核心服务的容器平台，其基于 k8s 实现了对海量 node 的管理和 pod 的调度。本文重点介绍弹性云的调度能力，分为以下部分：调度链路图：介绍当前弹性云调度体系链路，对架构体系有一个初步的认知k8s 调度能力的运用：整体介绍弹性云现在用到的 k8s 调度能力和对其的增强k8s 版本的升级：介绍到从 k8s 1.12 到 1...._滴滴机房 腾讯
NUMA架构在kubernetes中的应用
文章浏览阅读897次。对于cpu来说，这种分配方式并不会有太大问题，因为cpu可以灵活调度，numa调度时我们只计算绑定了numa cpu的pod是可以接受的，但是对于内存来说，numa node上申请了的内存无法做到随时迁移，这就会导致调度器视角numa node的mem资源足够，但是等到pod真正使用时，由于没有绑定numa node的pod申请的内存，导致numa node的mem资源不足，造成swap中断或者远端内存申请，这会对绑定mem的pod来带来性能损耗。忽略了没有绑定numa node的pod资源。_kubectl numa
k8s中资源对象有哪些及它们如何协作
文章浏览阅读796次，点赞17次，收藏15次。只要在Service定义中设置了ClusterIp:None，就定义了一个HeadLess Service， 它与普通的Service关键区别在于它没有ClusterIp地址，如果解析HeadLess Service的DNS域名，则会返回该Service对应的全部Pod的EndPoint列表，这就意味着客户端是直接与后端的pod建立了TCP/IP链接进行通信的。一个Label是一个键值对。注解：属于资源对象的元数据，可以被理解为一种特殊的标签，不过更多的是与程序挂钩，通常用于实现资源对象属性的自定义扩展。
Kubernetes 部署DolphinScheduler 创建租户失败
文章浏览阅读763次。但是此时如果配置成 NONE, 租户创建成功了，但是无法创建资源文件，也就是无法上传文件，可能 dolphinscheduler 团队就想着将文件上传到 hdfs，暂不支持本地。需要将 resource.storage.type 置为 NONE, 因为我之前用的 1.3.6 版本的时候，即使资源文件存在本地文件也需要配置成 hdfs。_[error] 2023-10-24 18:10:43.762 +0800 org.apache.dolphinscheduler.api.servic
Kubernetes[k8s] 最新版1.27.3 - 1.28.0安装教程,使用containerd模式
文章浏览阅读2.7k次，点赞2次，收藏13次。公司使用的是交老的k8s版本（1.16），由于老版本的K8s对于现在很多新特性不支持，所以需要升级到新版本。目前2023年7月11日最新版本的k8s是v1.27.3。通过参考官方文档进行k8s部署工作。其中涉及到操作系统配置、防火墙配置、私有镜像仓库等。_k8s最新版本
kubernetes新版本使用kubeadm init的超全问题解决和建议
文章浏览阅读1.8w次，点赞14次，收藏27次。能节省你在kubeadm init 时遇到问题的排错时间⌚️。整合了网上大佬
Kubernetes(K8S)集群部署
文章浏览阅读1.1k次，点赞2次，收藏7次。具体操作步骤可以参考之前的教程，建议是先安装一台，然后克隆虚拟机，这样速度快。注意：在克隆时记得修改Mac地址、IP地址、UUID和主机名。（最后别忘了保存下快照~）_部署k8s集群
k8s从初识到上天系列第二篇：kubernetes的组件和架构
文章浏览阅读863次，点赞23次，收藏16次。当部署完 Kubernetes，便拥有了一个完整的集群。一组工作机器，称为节点， 会运行容器化应用程序。每个集群至少有一个工作节点。工作节点会 托管Pod ，而 Pod 就是作为应用负载的组件。控制平面管理集群中的工作节点和Pod。说人话版本：集群：cluster，多个几点被组织到一起共同为系统提供服务过程称之为集群。本质上是将承载同一个软件服务节点组织到一起，称之为该软件(服务)的集群，当然集群中的节点身份地位是不一样的。k8s集群也是如此，他也是多个节点组成。
Rancher管理K8S
文章浏览阅读943次。Rancher是一个开源的企业级多集群Kubernetes管理平台，实现了Kubernetes集群在混合云+本地数据中心的集中部署与管理，以确保集群的安全性，加速企业数字化转型。Rancher 1.0版本在2016年就已发布，时至今日，Rancher已经成长为企业在生产环境中运行容器和Kubernetes的首要选择。_rancher管理k8s
kubeadm搭建k8s高可用集群（keepalived+nginx+3master）
文章浏览阅读742次，点赞2次，收藏3次。本篇来讲解如何在centos下安装部署高可用k8s集群。_kubeadm ha keepalived + nginx
OpenEular23.09（欧拉）操作系统为企业搭建独立的K8S集群环境，详细流程+截图
文章浏览阅读1.9k次，点赞21次，收藏25次。那么这个空间设置成内存的2倍大小。点击IPv4设置--手动--添加--设置ip--设置DNS服务器，最后点击--“保存”；首先选中--“本地标准磁盘”，存储配置--自定义分区，点击--“完成”；在--主机名--设置主机名：（例如k8s-master01)，点击--点击+，设置--挂载点/boot--期望容量，点击--添加挂载点；点击--+--挂载点swap--期望容量，点击--“添加挂载点”；默认选择--亚洲--上海，并调整日期和时间，点击--“完成”；设备类型--确认--LVM，卷组--选择“修改”；_euler 服务器搭建
tkestack/gpu-manager在k8s1.23版本之后的使用
文章浏览阅读1k次。在1.25版本的k8s集群中部署gpu-manage时，虽然显示gpu节点上gpu-manage的pod实例都是running状态，但是给pod申领。既可以用源码的Makefile自动编译打包成新的镜像，但是源码的。说明gpu-manager和容器运行时接口通信失败了。编译后的镜像在1.25版本的k8s中可以正常使用。，但是在k8s1.23版本之后，接口路径已经改为。资源时，却始终找不到有资源的节点。，另外有一些依赖需要国际上的支持。可以看到这里用的运行时接口是。查看节点的详情时，返回的。_launch gpu manager 报错 can't create container runtime manager: context dead
k8s存储卷-动态PV
文章浏览阅读1k次，点赞18次，收藏16次。SelfLink：API的资源对象之一，表示资源对象在集群当中自身的一个连结，self-Link是一个唯一的标识号，可以用于标识k8s集群当中的每个资源的对象。容器里使用的配置，在provisioner当中定义好环境变量，传给容器，storageclass的名称，NFS服务器的地址，NFS的目录。NFS的provisionner的客户端以pod的方式运行在集群当中，监听k8s集群当中PV的请求，然后动态的创建于NFS相关的PV。命名为 nfs-client-provisioner-clusterrole。
K8S证书过期解决办法之替换证书
文章浏览阅读6.3k次，点赞2次，收藏20次。k8s证书过期解决方案之替换证书_k8s证书过期如何更换
K8S集群中使用JDOS KMS服务对敏感数据安全加密 | 京东云技术团队
文章浏览阅读1k次。KMS，Key Management Service，即密钥管理服务，在K8S集群中，以驱动和插件的形式启用对Secret，Configmap进行加密。以保护敏感数据
K8S exporter应用
文章浏览阅读888次。exporter对于云服务的监控还是很不完美，毕竟每家都有自己的护城河。自动发现多实例这样的借助consul 阿波罗这样的会简单一些。aws可以借助cloudwatch这样的导入模板到grafana中。还是希望能将类似腾讯云云监控中的这些指标采集到prometheus中，但是这过程应该还很遥远grafana出图 prometheus查询语法这些东西有时间的好好研究一下。报警有必要进行分级别，收敛配置一下！_command: - "-redis.password-file=/redis_passwd.json
Kubernetes 默认的4种命名空间
文章浏览阅读1k次。可以在此处（https://cloud.google.com/kubernetes-engine/docs/how-to/kube-dns）和此处（https://www.digitalocean.com/community/tutorials/an-introduction-to-the-kubernetes-dns-service）找到更多的详细信息。-or-ipvs/）和此处（https://arthurchiao.art/blog/cracking-k8s-node-proxy/）。_k8s默认命名空间
【C站首发】全网最新Kubernetes（K8s）1.28版本探秘及部署 基于Containerd容器运行时（100年证书kubeadm）
文章浏览阅读4.9k次，点赞11次，收藏32次。如果运行runc命令时提示：runc: error while loading shared libraries: libseccomp.so.2: cannot open shared object file: No such file or directory，则表明runc没有找到libseccomp，需要检查libseccomp是否安装，本次安装默认就可以查询到。所有主机均需要操作。所有主机均需要操作。所有主机均需要操作。所有主机均需要操作。所有主机均需要操作。所有主机均需要操作。_kubernetes 1.28
【K8S系列】深入解析k8s网络插件—Canal
文章浏览阅读3.6w次，点赞118次，收藏144次。Canal 提供了网络功能，使得 Kubernetes 集群中的 Pod 可以相互通信，并与集群外部的服务进行通信。它通过网络插件的方式，为每个 Pod 分配唯一的 IP 地址，并管理网络流量的路由和转发。此外，Canal 还支持网络策略，用于定义 Pod 之间的通信规则和安全策略。Canal 基于 Calico 和 Flannel 项目，结合了二者的优点。它使用 Calico 的数据平面，提供高性能的网络转发和安全特性，同时使用 Flannel 的控制平面，实现 IP 地址管理和网络策略的配置。_k8s canal
pythonJavaScriptjavaHTMLPHPreactjsC#AndroidCSSNode.jssqlrpython-3.xMysqLjQueryc++pandasFlutterangularIOSdjangolinuxswifttypescript路由器JSON路由器设置无线路由器h3c华三华三路由器设置华三路由器电脑软件教程arraysdocker软件图文教程Cvue.jslaravelspring-boot