在TensorFlow模型的实际部署场景中，动态输入尺寸虽然能提升模型的适配灵活性，但也会带来推理延迟不稳定、部分推理框架不支持、硬件加速适配困难等问题，因此将动态输入尺寸改为静态尺寸是很多部署流程中的必要步骤。
动态与静态输入尺寸的核心区别
动态输入尺寸指的是模型在定义或保存时，输入张量的部分维度被设置为None，允许推理时传入不同尺寸的输入数据。而静态输入尺寸则是输入张量的所有维度都固定为具体数值，推理时只能传入对应尺寸的输入。两者的核心差异如下：
| 对比维度 | 动态输入尺寸 | 静态输入尺寸 |
|---|---|---|
| 输入灵活性 | 支持多种尺寸输入 | 仅支持固定尺寸输入 |
| 推理性能 | 可能存在波动，部分算子需要动态计算 | 性能稳定，算子可提前优化 |
| 部署适配性 | 部分推理框架、硬件不支持 | 适配性更好，支持更多部署场景 |
不同场景下的修改方法
场景一：训练完成后冻结模型时修改
如果是在模型训练完成后，通过冻结图的方式将动态输入改为静态，可以通过指定输入张量的具体尺寸实现。以下是使用TensorFlow 1.x风格冻结图的示例代码：
import tensorflow as tf
from tensorflow.python.framework import graph_util
# 加载已有的动态输入模型
with tf.Graph().as_default() as graph:
# 假设原模型输入为动态的placeholder，shape为(None, None, 3)
input_tensor = tf.compat.v1.placeholder(dtype=tf.float32, shape=[None, None, 3], name="input_tensor")
# 这里省略模型中间层的构建逻辑
output_tensor = tf.identity(input_tensor, name="output_tensor")
# 指定静态输入尺寸，比如固定为(1, 224, 224, 3)
static_input_shape = [1, 224, 224, 3]
# 获取输入tensor的名称
input_name = input_tensor.name.split(":")[0]
# 重写输入tensor的shape为静态尺寸
graph.get_tensor_by_name(input_name + ":0").set_shape(static_input_shape)
# 转换为冻结图
with tf.compat.v1.Session() as sess:
sess.run(tf.compat.v1.global_variables_initializer())
frozen_graph = graph_util.convert_variables_to_constants(
sess,
sess.graph_def,
output_node_names=["output_tensor"]
)
# 保存冻结后的静态输入模型
with tf.io.gfile.GFile("static_input_model.pb", "wb") as f:
f.write(frozen_graph.SerializeToString())
场景二：SavedModel格式模型转换时修改
如果是已经保存为SavedModel格式的模型，需要修改输入尺寸为静态，可以通过重新构建模型并指定输入签名的方式实现。以下是TensorFlow 2.x的示例代码：
import tensorflow as tf
# 加载原有的SavedModel模型
original_model = tf.saved_model.load("dynamic_input_saved_model")
# 获取原模型的推理函数
infer = original_model.signatures["serving_default"]
# 定义新的静态输入签名，固定输入尺寸为(1, 224, 224, 3)
@tf.function(input_signature=[tf.TensorSpec(shape=(1, 224, 224, 3), dtype=tf.float32, name="input_tensor")])
def static_infer(input_tensor):
return infer(input_tensor)
# 保存新的静态输入SavedModel
tf.saved_model.save(original_model, "static_input_saved_model", signatures={"serving_default": static_infer})
场景三：TensorFlow Lite转换时修改
如果是要转换为TensorFlow Lite模型，可以在转换过程中通过指定输入张量的具体尺寸来固定输入。示例代码如下：
import tensorflow as tf
# 转换SavedModel为TFLite模型，指定静态输入尺寸
converter = tf.lite.TFLiteConverter.from_saved_model("dynamic_input_saved_model")
# 设置输入张量的静态形状，假设原输入名称为input_tensor，固定为(1,224,224,3)
converter.experimental_new_converter = True
tflite_model = converter.convert()
# 保存转换后的静态输入TFLite模型
with open("static_input_model.tflite", "wb") as f:
f.write(tflite_model)
注意事项与常见问题
- 修改静态尺寸前需要确认部署场景的实际输入尺寸，避免设置的尺寸与实际推理输入不匹配导致报错。
- 如果原模型中包含依赖动态尺寸计算的算子，比如动态reshape、根据输入尺寸计算输出的卷积层，修改静态尺寸后需要验证模型输出是否正确。
- 部分预训练模型在修改输入尺寸后可能需要重新微调，尤其是输入尺寸变化较大的情况，避免模型精度下降。
- 如果修改后模型推理报错，可以先打印模型的输入张量信息，确认尺寸是否已经正确固定，排查是否有未修改的动态维度。
验证修改结果
修改完成后可以通过以下代码验证输入尺寸是否已经变为静态：
import tensorflow as tf
# 加载修改后的模型，验证输入尺寸
model = tf.saved_model.load("static_input_saved_model")
infer = model.signatures["serving_default"]
# 获取输入信息的shape
for input_tensor in infer.inputs:
print(f"输入名称: {input_tensor.name}, 输入形状: {input_tensor.shape}")
如果输出的输入形状中所有维度都是具体数值，没有None，则说明动态输入尺寸已经成功修改为静态尺寸。
TensorFlow模型优化静态输入尺寸动态输入尺寸模型冻结修改时间：2026-06-19 17:15:37