导读:近期更新了《机器学习安全》的相关内容,包括《模型投毒攻击是什么?攻击者如何污染机器学习模型?》。如果 机器学习安全 对你有帮助,请转发和分享本内容。知识因分享而拥有更大能量,感谢您成为这传播链条中的重要一环。
模型投毒攻击是什么?攻击者如何污染机器学习模型? 如果一批看似正常的训练图片里混入了精心构造的毒样本,模型还能可靠工作吗?模型投毒攻击的核心思路就是在模型训练阶段污染数据或参数,使模型在特定触发条件下输出攻击者期望的结果,而常规测试中表现正常。投毒方式包括标签翻转、干净标签投毒、后门植入以及联邦学习中的恶意... 栏目:安全运维 时间:08-21 模型投毒 机器学习安全 训练数据污染