故障域划分是高可用架构设计的地基。简单来说,故障域是指当某个基础设施组件发生故障时,受影响的一组资源范围。一台物理机是一个故障域,一个机架是一个更大的故障域,一个云可用区则是范围更大的故障域。如果业务的所有副本都集中在同一个故障域内,那么一次机架断电或可用区级网络抖动,就可能导致服务整体不可用。本文围绕Kubernetes环境,讨论如何合理划分故障域,并让调度器具备可用区感知能力,实现副本的均匀打散部署。

一、理解故障域的层级与划分原则
故障域通常分为三个层级:单机层级、机架层级和可用区层级。单机层级故障包括硬件损坏、宿主机内核异常、kubelet进程挂掉等,影响范围是单节点上的所有Pod;机架层级故障通常是交换机故障或机架供电中断,影响范围是该机架上所有节点;可用区层级故障则包括数据中心断电、光纤中断、区域网络设备升级失败等,影响范围是整个可用区内的全部节点。层级越高,故障概率越低,但一旦发生影响面也越大。
划分故障域的核心原则是:同一业务的多份副本,不能落在同一个故障域内。对于无状态服务,至少要保证三个副本分布在三个不同的可用区;对于有状态服务如数据库集群,除了跨可用区分布,还要考虑持久化存储的可用区亲和问题,因为云盘通常只能挂载在特定可用区的节点上,Pod故障后重新调度会被存储位置限制在原可用区内,这一点在设计有状态应用时经常被忽略。
在Kubernetes中,故障域信息通过节点标签暴露。云厂商托管的集群一般会自动打上topology.kubernetes.io/zone和topology.kubernetes.io/region标签,自建集群则需要手动维护:
# 查看节点的故障域标签 kubectl get nodes --show-labels | grep topology # 为自建集群节点手动打标签 kubectl label node node-1 topology.kubernetes.io/zone=zone-a kubectl label node node-1 topology.kubernetes.io/region=beijing
二、实现可用区感知调度的关键机制
有了故障域标签,还需要调度器利用这些标签做出合理的调度决策。Kubernetes提供了两种主要机制:Pod反亲和与拓扑分布约束,两者解决的问题侧重点不同。Pod反亲和强调互斥,即强制副本之间不能共存于同一个拓扑域;拓扑分布约束强调均匀,即让副本在各拓扑域之间尽量平均分布,并允许一定程度的偏差。
Pod反亲和适合副本数较少的服务,用硬性规则强制副本分散:
apiVersion: apps/v1
kind: Deployment
metadata:
name: web-server
spec:
replicas: 3
selector:
matchLabels:
app: web
template:
metadata:
labels:
app: web
spec:
affinity:
podAntiAffinity:
requiredDuringSchedulingIgnoredDuringExecution:
- labelSelector:
matchLabels:
app: web
topologyKey: topology.kubernetes.io/zone
containers:
- name: web
image: nginx:1.25
上面配置中topologyKey指定为可用区标签,含义是任意两个web副本不允许调度到同一个可用区,属于硬约束。如果集群只有两个可用区而副本数是三,第三个Pod将永远处于Pending状态,这是反亲和的典型陷阱。副本数多于可用区数时,应改用preferredDuringSchedulingIgnoredDuringExecution软约束,或者直接使用拓扑分布约束。
拓扑分布约束(topologySpreadConstraints)是更现代的做法,它通过maxSkew参数容忍不完美分布,通过whenUnsatisfiable字段控制不满足时是拒绝调度还是尽力调度:
spec:
topologySpreadConstraints:
- maxSkew: 1
topologyKey: topology.kubernetes.io/zone
whenUnsatisfiable: ScheduleAnyway
labelSelector:
matchLabels:
app: web
这段配置表示各可用区之间web副本数量的差值最大为1,即使暂时无法完全满足也允许调度。相比硬性反亲和,它在滚动更新和集群扩缩容时表现更平滑,不会因为一个可用区临时资源不足而卡住整个发布流程。
三、跨可用区部署的实践权衡与避坑要点
跨可用区打散并非没有代价。首先是网络延迟,可用区之间的往返延迟通常在1到2毫秒,对延迟敏感的强一致系统,比如Raft集群的心跳、分布式事务的协调通信,会带来明显影响,需要评估业务能否接受。其次是流量成本,跨可用区流量在多数云厂商的计费模式下单价高于区内流量,副本数多、节点间通信频繁的服务,这项成本不可忽视。
其次是容量规划问题。假设三个可用区各十台节点,如果某个可用区整体故障,剩余两个可用区要能承接全部流量,这意味着每个可用区平时最多只能运行约三分之二的负载,集群整体需要预留约一半的冗余容量。很多团队只在调度层面做了打散,却没有做容量冗余和流量自动摘除,可用区故障时副本确实在其他可用区重新拉起了,但剩余节点被瞬间打满,服务照样雪崩。完整的高可用方案应该包含三层配合:调度层打散、自动扩缩容配合可用区感知的缩容保护、负载均衡层的健康检查摘除。
另外要注意污点与容忍的配合。给某个可用区的节点打上污点,可以阻止无感知的业务Pod迁入,实现关键业务与普通业务的故障域隔离:
# 给zone-c的所有节点打污点,只允许容忍该污点的关键业务调度 kubectl taint nodes -l topology.kubernetes.io/zone=zone-c dedicated=critical:NoSchedule
最后建议定期做故障演练。通过封锁并排空整个可用区的节点,可以验证副本是否能在其他可用区正常重建、服务是否无感切换。只有在演练中被反复验证过的打散策略,才是真正经得起区域性故障考验的高可用设计。