3D生成训练显存总不够?激活检查点与梯度累积怎样搭配更省内存? 把激活检查点当成零成本的显存压缩方案,会在3D生成训练里踩坑:前向时间增加,但显存峰值确实明显下降。3D生成模型通常比2D生成更吃显存,NeRF的体渲染采样点、3D扩散模型的三维特征图都会让激活张量迅速膨胀。梯度累积可以从另一个维度缓解显存压力,它不减少单次前向显存,而是把... 栏目:3D模型 时间:10-04 3D生成 激活检查点 梯度累积