生成对抗网络在图像合成、文本生成等任务里表现惊艳，但最让人头疼的问题之一就是模式崩溃。训练到一定阶段，生成器不再覆盖真实数据的全部分布，而是只产出几类高度相似的样本，判别器即便再强也无法把训练拉回正轨。传统 GAN 依赖 Jensen-Shannon 散度，当分布支撑集不重叠时梯度消失，生成器收不到有效信号，于是走向塌缩。WGAN-GP 与谱归一化是两种从理论层面遏制该现象的主流手段，前者重塑损失与约束方式，后者从网络层权重直接动手。
WGAN-GP 的梯度惩罚机制与实现
WGAN 提出用 Wasserstein 距离替代原始对抗损失，它要求判别器（或称评论家）满足一阶 Lipschitz 连续。早期 WGAN 靠权重裁剪把参数压到狭小区间，但这会造成容量浪费与梯度异常。WGAN-GP 改为在真实样本与生成样本连线上随机插值，对判别器输出关于该插值点的梯度模长做惩罚，迫使梯度接近单位向量，从而平滑优化地形。
从代码角度看，核心在于构造插值样本并计算梯度。下面给出 PyTorch 风格的简化片段，展示惩罚项如何接入训练步。注意里面所有比较符号都做了转义，避免破坏页面结构。
import torch
def gradient_penalty(disc, real, fake, device):
batch_size = real.size(0)
alpha = torch.rand(batch_size, 1, 1, 1, device=device)
interpolated = alpha * real + (1 - alpha) * fake
interpolated.requires_grad_(True)
d_interpolated = disc(interpolated)
grad_outputs = torch.ones_like(d_interpolated)
gradients = torch.autograd.grad(
outputs=d_interpolated,
inputs=interpolated,
grad_outputs=grad_outputs,
create_graph=True,
retain_graph=True
)[0]
gradients = gradients.view(batch_size, -1)
gp = ((gradients.norm(2, dim=1) - 1) ** 2).mean()
return gp
# 训练循环中
# for real_img in dataloader:
# fake_img = gen(noise).detach()
# d_loss = -d_real.mean() + d_fake.mean() + 10 * gradient_penalty(disc, real_img, fake_img, device)
该方案的优点是理论清晰、崩溃概率显著降低，尤其适合数据分布复杂、类别繁多的场景。缺点是每次迭代要多做一次反向传播求插值梯度，训练速度大约下降百分之二十到三十。若 batch 很小，插值点代表性不足，惩罚也会波动，需要配合较高惩罚系数与稳定优化器使用。
谱归一化如何限制 Lipschitz 常数
谱归一化由 Miyato 等人提出，思路更直接：对判别器每一层的权重矩阵做奇异值分解，取最大奇异值（谱范数）将权重除以它，使该层线性映射的放大倍数不超过一。卷积层可把核重塑为二维矩阵后再算谱范数，用幂迭代快速逼近，不必精确求解。这样逐层叠加后，整个判别器的 Lipschitz 常数被控制在合理范围，生成器获得的梯度不会极端漂移。
接入方式非常轻量，几乎不改动原有网络结构。以下示例展示如何自定义一个带谱归一化的卷积层，并在前向里更新谱范数估计。代码中用下划线变量保存迭代状态，符合常见实现习惯。
import torch
import torch.nn as nn
import torch.nn.functional as F
class SNConv2d(nn.Module):
def __init__(self, in_c, out_c, k, s=1, p=0):
super().__init__()
self.conv = nn.Conv2d(in_c, out_c, k, s, p)
self.u = nn.Parameter(torch.randn(out_c), requires_grad=False)
self.v = nn.Parameter(torch.randn(in_c * k * k), requires_grad=False)
self.register_buffer('sn', torch.tensor(0.0))
def forward(self, x):
w = self.conv.weight.view(self.conv.out_channels, -1)
v = F.normalize(self.v)
u = F.normalize(torch.matmul(w, v))
v = F.normalize(torch.matmul(w.t(), u))
sigma = torch.dot(u, torch.matmul(w, v))
self.sn.copy_(sigma.detach())
w_sn = self.conv.weight / sigma
return F.conv2d(x, w_sn, self.conv.bias, self.conv.stride, self.conv.padding)
谱归一化几乎不增加推理成本，训练时仅多几次矩阵向量乘，非常适合大规模图像生成与视频模型。它不像梯度惩罚那样依赖插值分布，因此对 batch 大小不敏感。局限在于只对判别器权重显式约束，若生成器本身结构病态仍可能出问题，且对极深网络每层都迭代会累积微小误差，需要周期性重置向量。
两种方案的选择与组合策略
面对具体业务，选 WGAN-GP 还是谱归一化先看团队熟悉度与算力边界。如果已有标准 GAN 代码且想最小改动，直接把判别器层换成谱归一化版本，往往一天内就能看到模式覆盖改善。若任务对样本多样性要求极高，例如医学图像增广不允许漏掉稀有病灶，WGAN-GP 提供的 Wasserstein 监控指标能辅助判断训练健康度，更利于调试。
实践中二者并不互斥。有研究把谱归一化判别器再叠加轻微梯度惩罚，兼顾层内约束与全局平滑，在 CIFAR 与 CelebA 上取得更低 FID。组合时要注意惩罚系数调小，避免双重限制压垮判别器容量。下表列出关键差异供快速对照。
| 维度 | WGAN-GP | 谱归一化 |
|---|---|---|
| 改动位置 | 损失函数与训练循环 | 网络层参数 |
| 额外计算 | 插值反向传播 | 幂迭代矩阵乘 |
| 超参敏感 | 惩罚系数较敏感 | 迭代步数影响小 |
| 崩溃缓解 | 强理论保障 | 工程稳定易用 |
无论单独使用还是组合，都应配合生成器学习率预热、标签平滑等辅助技巧。模式崩溃不是单点故障，而是优化动态失衡，只有在损失设计、容量控制、评估反馈三线并进时，才能稳定输出覆盖全模式的样本。写代码时建议把判别器约束逻辑封装成独立模块，方便后期在 WGAN-GP、谱归一化及混合模式间切换对比。
GAN WGAN-GP spectral_normalization修改时间：2026-08-19 00:06:32