模型量化是部署深度学习模型时最常用的压缩手段之一，但不少工程师在把模型从FP32转到INT8后，发现精度直接掉了好几个点，甚至完全不可用。造成这种结果的原因大多不在量化算法本身，而在于校准数据集没选好、量化参数算得不准。这篇文章围绕这两个核心因素展开，给出具体的排查思路和调优方法。
校准数据集为什么是量化精度的生命线
训练后量化（PTQ）不需要重新训练模型，它依赖一批代表性数据来统计每一层的权重分布和激活值分布，从而计算scale和zero point。如果校准数据与实际推理数据分布差异过大，统计出来的激活值范围就会失真。举个直观的例子：你用只有白天的图片做校准，去量化一个夜间监控模型，卷积层输出的激活范围可能完全覆盖不到真实推理时的数值区间，截断误差会成倍放大。
校准样本的数量同样关键。经验值一般在100到1000条之间，太少了统计分布不稳定，每次量化结果可能都不一样；太多了收益递减，还会拖慢校准速度。更重要的原则是多样性：样本要覆盖真实业务中的主要场景，包括类别均衡、光照差异、遮挡情况等。如果业务上有明显的长尾场景，一定要在校准集中体现出来，否则这些场景下的量化误差会集中爆发。
还有一个容易被忽略的细节是预处理一致性。校准时的归一化参数、resize方式、色彩空间转换必须和线上推理完全一致。有人在校准时用了OpenCV的BGR顺序读取，线上推理却按RGB送入，这种低级错误会直接导致激活分布整体偏移，量化后的模型看起来就像坏掉了一样。建议在校准脚本里复用线上同一套数据加载代码，从根源上杜绝不一致。
量化参数与截断策略的选择
量化参数计算的核心问题是如何确定浮点数到整数的映射范围，也就是截断策略。最简单的是Min-Max策略，直接取激活值的最大最小值做映射，优点是不丢失任何信息，缺点是对异常值极其敏感。如果某个batch里出现一个特别大的激活值，整个scale会被撑大，正常数值都挤到很小的整数区间里，分辨率骤降。
KL散度策略（也叫熵校准）会寻找一个截断阈值，使得截断前后量化值分布与原始分布的KL散度最小，TensorRT默认采用这种方式。它对异常值有天然的抑制能力，适合绝大多数CNN模型。Percentile策略则按百分位截断，比如取99.9%分位数作为上限，直接丢弃最极端的0.1%数值，实现简单且效果稳定，在目标检测类模型上表现往往不错。
import torch
from torch.quantization import quantize_fx
from torch.quantization.observers import HistogramObserver, MinMaxObserver
# 使用直方图观察器，对应KL散度校准
model.eval()
qconfig = torch.quantization.QConfig(
activation=HistogramObserver.with_args(qscheme=torch.per_tensor_affine),
weight=MinMaxObserver.with_args(qscheme=torch.per_tensor_symmetric)
)
prepared = quantize_fx.prepare_fx(model, {"" : qconfig}, example_inputs=(dummy_input,))
# 用校准数据跑前向，注意与线上预处理保持一致
for data in calib_loader:
prepared(data)
quantized = quantize_fx.convert_fx(prepared)
粒度选择上，权重推荐per-channel量化，也就是每个输出通道独立计算scale。因为不同通道的权重范围差异可能很大，per-tensor会强制所有通道共享一个scale，小数值通道的精度会被严重牺牲，这对输出通道较多的层（比如分类头的全连接层）影响尤其明显。激活值由于硬件实现限制，多数推理框架只支持per-tensor，这也是精度损失常常集中在激活量化上的原因。对称量化（zero point为0）适合权重这类近似零均值对称分布的数据，激活值经过ReLU后全为非负，用非对称量化更合理。
常见精度暴跌问题的排查与修复
遇到量化后精度暴跌，第一步是做逐层误差分析。对比FP32模型和量化模型每一层的输出，用余弦相似度或相对误差定位问题层。很多框架都提供了这类工具，比如TensorRT的polygraphy、PyTorch的Numeric Suite。定位到具体层后，如果发现某一层输出误差异常大，优先检查该层的激活分布是否包含极端异常值，可以通过打印该层的激活直方图确认。
如果确认是异常激活值导致的，有几种修复手段：换用KL散度或Percentile截断策略；对该层单独关闭量化（混合精度量化）；或者在模型结构上动手，比如在激活函数后加一个饱和限制，把异常大值压回正常范围。后处理中的Softmax、Sigmoid层以及检测头的回归分支，通常建议保持FP16或FP32，这些层对数值精度非常敏感，量化收益小但风险高。
BN折叠也是一个高发问题点。把BatchNorm折叠进前面的卷积层时，折叠后的权重分布可能发生明显变化，如果折叠时机不对或epsilon处理不精确，会引入系统性偏差。建议使用框架自带的fuse模块而不是手工折叠。另外，如果模型里含有动态shape推理、控制流或者自定义算子，量化可能直接失效或静默跳过，部署前务必通过工具dump量化图，确认哪些层真正被量化了，哪些被跳过，避免以为量化了实际上整个网络还是FP32在跑的尴尬情况。
总结一下调优路径：先确保校准数据分布正确且预处理一致，再选择合适的截断策略和per-channel粒度，最后用逐层误差分析定位残留问题并对敏感层做混合精度处理。按这套流程走下来，绝大多数模型在INT8量化后精度损失都能控制在1%以内，同时获得接近三倍的推理加速和四分之一的内存占用。