导读:近期更新了《中间特征匹配》的相关内容,包括《如何解决蒸馏跨模态难?中间特征匹配方法详解》。如果 中间特征匹配 对你有帮助,请转发和分享本内容。知识因分享而拥有更大能量,感谢您成为这传播链条中的重要一环。
如何解决蒸馏跨模态难?中间特征匹配方法详解 跨模态知识蒸馏里,教师和学生模型可能分别处理图像与文本、RGB与深度等不同模态,输出概率分布差异巨大,直接对齐软标签常常失效。原因不只是输出维度不同,更关键的是中间特征处于完全不同的语义空间。中间特征匹配通过在不同层级引入可学习的投影层,将教师特征与学生特征映射... 栏目:AI大模型 时间:08-23 跨模态蒸馏 中间特征匹配 知识蒸馏