PyTorch 中，训练和推理并不是同一套前向计算逻辑，而 model.eval() 就是切换这套逻辑的入口。如果只是把模型权重保存下来直接预测，却不调用 model.eval()，很可能得到看似正确但不稳定的结果。这种差异主要来自模块内部的 training 标志，它会改变 BatchNorm、Dropout 以及自定义层的行为。
要理解 model.eval()，需要先看 training 属性本身。在 PyTorch 中，每个 nn.Module 都维护一个布尔值 self.training，它不直接参与权重更新，却会被很多前向传播逻辑读取。调用 model.train() 会递归地将所有子模块的 training 设置为 True，调用 model.eval() 则会递归地设置为 False。这个递归过程覆盖了嵌套模型、序列容器以及自定义子模块。
一、training 标志如何控制前向传播
在 PyTorch 里，model.eval() 并不是一个魔法开关，它只是把模型及其子模块的 training 属性统一改成 False。同理，model.train() 改成 True。这个布尔值的意义在于，模块的 forward 方法可以根据它选择不同的计算路径。
例如 nn.BatchNorm 和 nn.Dropout 都直接依赖 self.training。如果你自定义了一个层，也可以读取这个属性。下面这个网络结构同时包含线性层、BatchNorm 和 Dropout，适合观察 train/eval 切换的影响。
import torch
import torch.nn as nn
class SimpleNet(nn.Module):
def __init__(self):
super().__init__()
self.fc1 = nn.Linear(10, 20)
self.bn1 = nn.BatchNorm1d(20)
self.dropout = nn.Dropout(0.5)
self.fc2 = nn.Linear(20, 2)
def forward(self, x):
x = self.fc1(x)
x = self.bn1(x)
x = torch.relu(x)
x = self.dropout(x)
x = self.fc2(x)
return x
model = SimpleNet()
model.train()
print(model.training) # True
model.eval()
print(model.training) # False
从输出可以看到，单个模型实例的 training 属性确实发生了变化。但真正重要的不是这个布尔值本身，而是 BatchNorm 和 Dropout 在读取它之后表现出的行为差异。如果把模型放在 GPU 上，切换逻辑仍然一样，因为标志与设备无关。
二、BatchNorm 在训练和测试时的差别
BatchNorm 是受 model.eval() 影响最典型的模块之一。训练阶段，BatchNorm 对当前 mini-batch 计算均值和方差，并用它们做归一化，同时用移动平均的方式更新 running_mean 和 running_var。这两个变量保存的是全局统计量，推理时就应该使用它们，而不是依赖某个具体 batch。
如果在测试阶段继续让 BatchNorm 处于训练模式，模型会拿测试 batch 的统计量做归一化。当 batch size 很小，或者测试数据分布与训练数据差异较大时，这种统计量会带来明显噪声，甚至导致预测结果不稳定。更隐蔽的问题是，测试时继续更新 running_mean 和 running_var，会污染原本已经稳定的全局统计量，模型之后再用于评估时可能逐渐偏离。
下面这个例子可以直观看到 BatchNorm 在 train/eval 下的输出差异。虽然输出不一定每次都完全不同，但核心区别在于统计量来源不同。
import torch
import torch.nn as nn
bn = nn.BatchNorm1d(4)
bn.train()
x = torch.randn(2, 4)
out_train = bn(x)
print(bn.running_mean)
bn.eval()
with torch.no_grad():
out_eval = bn(x)
print(out_train)
print(out_eval)
这里特别注意一个点：即使输入完全相同，train 模式和 eval 模式的计算结果也可能不一样。对于大 batch 且分布接近时，差异可能很小；但对于小 batch 或分布漂移场景，差异会被放大。因此，只要做推理、验证、部署前的校准，就应该显式调用 model.eval()。
三、Dropout 与梯度计算的影响
Dropout 是另一个依赖 training 标志的常见模块。训练模式下，Dropout 会按指定概率随机将部分神经元置零，并缩放剩余神经元的输出，用来缓解过拟合。评估模式下，Dropout 不做随机丢弃，而是等价于直接输出原始值。这也是很多模型在训练和测试之间表现不一致的来源。
如果测试时忘记调用 model.eval()，Dropout 仍然会随机置零，造成预测结果带有随机性。同一个输入多次推理可能得到不同输出，这对线上服务或基准测试来说是不可接受的。对分类任务，可能只是概率轻微波动；对生成任务，随机丢弃可能让输出质量明显下降。
下面的代码展示了同一批数据在 train 和 eval 两种状态下经过 Dropout 的不同表现。
import torch
import torch.nn as nn
drop = nn.Dropout(0.5)
x = torch.ones(10)
drop.train()
out_train = drop(x)
print(out_train)
drop.eval()
with torch.no_grad():
out_eval = drop(x)
print(out_eval)
另外，model.eval() 只是切换前向传播行为，并不会自动关闭梯度计算。很多人误以为调用 eval() 后就不需要 torch.no_grad() 了，这两个机制完全不同。前者影响模块内部逻辑，后者影响自动求导。推理时如果只调用 model.eval() 而不使用 torch.no_grad()，输入张量仍会构建计算图，浪费显存并拖慢速度。因此推荐组合使用。
import torch
model.eval()
with torch.no_grad():
outputs = model(input_tensor)
代码中的 input_tensor 应替换为实际输入。这样既保证 BatchNorm、Dropout 处于推理行为，又避免无意义的梯度计算和显存占用。
四、常见注意事项与快速排查
实际项目中，围绕 model.eval() 有几个高频问题。第一是保存模型时忘记切换状态。如果保存的是完整模型对象，加载后 training 标志会保持保存时的状态。例如训练中途保存了处于 train 状态的模型，测试时直接加载并推理，就等同于没有调用 model.eval()。因此加载后最好显式设置一次。
第二是自定义层没有正确处理 self.training。如果你在 forward 中写了类似“训练时额外加噪声、测试时平滑输出”的逻辑，却没有判断 self.training，那么无论怎么切换 eval 都不会生效。正确做法是像下面这样显式读取该属性。
class MyLayer(nn.Module):
def forward(self, x):
if self.training:
x = x + 1
return x
第三是分布式推理或多卡评估时，需要确保每个 rank 上的模型都调用了 model.eval()。如果某些 worker 还停留在 train 模式，聚合结果可能受到 BatchNorm 统计量或 Dropout 随机性影响，排查起来比较隐蔽。可以在推理入口统一调用，或者写一个装饰器统一处理。
第四是验证循环与训练循环交替执行时，如果上一轮训练结束进入了 train 模式，下一轮验证开始前没有调用 eval，验证指标就会失真。推荐在每个 epoch 的验证阶段开头都显式调用 model.eval()，验证结束后再调用 model.train() 恢复训练状态。这样做虽然简单，但能避免很多偶发问题。
最后总结一下：model.eval() 解决的是模型前向传播语义是否与推理阶段匹配的问题；torch.no_grad() 解决的是推理时是否需要构建计算图的问题。两者职责不同，但测试阶段通常需要同时使用。只要理解 training 标志如何驱动 BatchNorm、Dropout 和自定义层，就能准确判断什么时候该调用它，以及遗漏调用时应该从哪里排查。
PyTorch model.eval批归一化Dropout修改时间：2026-09-27 02:05:00