

























我最近在思考一个问题,公有云负载均衡是如何实现多租户,目前我想到的方案有二,具体如下:
方案一、 负载均衡器直接安装在 VPC 内部以虚拟机的形式存在,这样天然实现了租户隔离,即使 CIDR 重叠也没有关系,但是随着租户越来越多虚拟机数量暴增,资源严重浪费。
方案二、 共享负载均衡池,部分人共用一个 nginx 进程,每个租户分配一个虚拟的 ip 地址,负载均衡器 proxy_pass 指向这个虚拟的 IP ,然后通过 NAT 进行转换引流到 VPC 中,但是缺点是 NAT 需要跟踪这些 SESSION ,表象过大。
不知道有没有做过的童鞋,给提提意见。
3 pingdog 5 月 16 日 via iPhonevxlan 解决不了多租户,vrf, sr 都发展十多年了 Linux 还可以用 netns 来分割多个 instance |
4 jonathan001 5 月 16 日@pingdog 我刚才看了下,可以把不同租户的 nginx 进程放到 netns 中,网络一端在 ns 中,一端在物理机,物理机器这段要通过 vrf 隔离,按理说可以实现多租户的隔离。 |
5 teaguexiao 5 月 16 日AWS ALB/NLB 实際上是方案二的变体,共享池配路,内部用 VPC Lattice 和 Hyperplane 做网络虚拟化而不是传统 NAT ,避免了连接跟踪表爆峸的问题。跟你方案二思路相近,但关键在网络中面痄呼而不是 instance 层就能打通租户隔离。 |
7 my3157 5 月 16 日 via Android其实大多数云都是有个特殊的网络优化过的物理机,然后上面跑 lxc/vm ,运行 nginx+lua or haproxy |
8 jonathan001 5 月 16 日@my3157 这种方案我已经梳理通了,直接在 linux netns 中跑 nginx 进程,物理一层的网卡直接放到 vrf 中,netns 中的 nginx 进程应该可以用 cgroup 来做隔离,对于高可用可以在多个可用区部署多个进程,然后归属同一个 vxlan 就行。 |
9 defunct9 5 月 17 日 via iPhone原始的 clb 应该是 f5 ,现在的 alb 应该是 nginx 或者 haproxy 或者 traefik 或者 caddy |
10 thereone 5 月 17 日多租户的实现,别的不清楚就我接触到的是物理设备和 NFV 设备。普通型是使用负载均衡的虚拟机优享型和专用是直接使用物理设备。厂商专用的 NFV 和物理设备都是内部就支持多租户隔离不需要额外做什么。F5 的 Bigve 和高性能物理硬件 华三硬件 LB 还有虚拟机型 LB 以及其它厂家的硬件和软件等等。至于引流底层都是 vxlan 封装至于数据卸载可以是在 tor 交换机也可以在设备内部。 |
12 thereone 5 月 17 日@jonathan001 vpc 部署虚拟机一般是云上客户自己做,省钱买几台虚拟机自己做成 LB 用 nginx 也好 LVS 别的也好来实现。真正云厂家底层都是用专门的 NFV 或者高性能物理硬件这个才能承载众多用户量。毕竟这些厂家都是专门做这个的性能方面基本不用担心,ASIC FPGA 的硬件转发可以把性能和承载的租户拉到非常高。NFV 也是底层是用 VPP 或者 DPDK 实现高性能的。在要不就是云厂家购买白盒设备自己做自研。 |
13 fovecifer 5 月 17 日公有云负载均衡也分不同层次,常用的是 TCP 层和 http/https 层的,我认为肯定要上网络虚拟化的设备,LZ 你说的应该更靠近操作系统层面 |
18 CodeWind 5 月 17 日维护过华为 HCS 私有云,说说 HCS 的方案。 |
19 jonathan001 5 月 18 日网络资源到计算资源走的路由,但是如何区分租户呢?租户的 ip 如果有重叠该如何处理?如两个租户的 lb 地址都是 10.0.0.1/32 ? 还有一种可能就是专门那一个网段如 10.0.0.0/16 ,给每一个租户的 lb 分配一个单独的 10.0.1.1/32 的路由,这样也能标识一个租户,然后通过路由的方式引入到计算集群,计算集群处理后再通过网络返回给 lb ,不知道我这么理解对不对。 |
20 realpg 5 月 18 日其实很多都是不隔离的 比如你的 SLB 实例的公网 IP 是 1.1.1.1 ,内网 IP 是 192.168.31.7 ,你的两个计算节点内网 IP 是 192.168.31.11 和 192.168.31.12 你在节点上看连接,甚至会发现 slb 连过来的 IP 不是 192.168.31.7 ,而是 100.68.31.125 之类 云内都是 vxlan ,标签交换,三层路由的,不会建立低效的二层关系的 |
21 vopsoft 5 月 18 日iqiyi/dpvs 也是基于 dpdk 开源的 |
24 jonathan001 5 月 19 日@realpg 我说的是云厂商不是你,你这个思路是正确的,我也思考了下,所有租户共享一个 LB 共享池 192.168.1.0/24 ,A 租户的 LB 地址是 192.168.1.1 ,然后平台拿到这个地址去所有 LB 的机器上配置 192.168.1.1 到 lo 接口,然后宣告,形成 ECMP ,全部转发流量,流量到达 LB 后如果址是 192.168.1.1 目标地址是 vpc 内网地址,自己查 flow 流表通过 vxlan 转发到相应隧道到达租户 vpc 中的机器,至于 vni 就是在创建 lb 后平台控制器自动下发到 OVS 的。 |
此内容由惯性聚合(RSS阅读器)自动聚合整理,仅供阅读参考。 原文来自 — 版权归原作者所有。