对抗攻击2——FGSM(Fast Gradient Sign Method)
FGSM被设计用于在给定的输入样本中快速找对抗扰动方向，并使得目标模型的训练损失增大，减小分类置信度，增大内类类别混淆的可能性。使训练损失增大的对抗扰动的方向并不能保证模型误分类，但是对抗扰动的梯度方向比其它的方向更有可能导致模型误分类。 FGSM通过计算损失函数关于输入样本的的梯度，对梯度进行sign\mathrm{sign}sign操作，并乘以一个约束参数ϵ\epsilonϵ，具体的公式如下
FGSM被设计用于在给定的输入样本中快速找对抗扰动方向，并使得目标模型的训练损失增大，减小分类置信度，增大内类类别混淆的可能性。使训练损失增大的对抗扰动的方向并不能保证模型误分类，但是对抗扰动的梯度方向比其它的方向更有可能导致模型误分类。
FGSM通过计算损失函数关于输入样本的的梯度，对梯度进行sign\mathrm{sign}sign操作，并乘以一个约束参数ϵ\epsilonϵ，具体的公式如下所示：x′=x+ϵ⋅sign(∇xL(x,y)),x^{\prime}=x+\epsilon\cdot \mathrm{sign}(\nabla_x \mathcal{L}(x,y)),x′=x+ϵ⋅sign(∇xL(x,y)),其中∇xL(x,y)\nabla_x \mathcal{L}(x,y)∇xL(x,y)是损失函数关于输入样本xxx的一阶导数。生成的对抗样本控制在输入样本的空间中。
GitCode 天启AI是一款由 GitCode 团队打造的智能助手，基于先进的LLM（大语言模型）与多智能体 Agent 技术构建，致力于为用户提供高效、智能、多模态的创作与开发支持。它不仅支持自然语言对话，还具备处理文件、生成 PPT、撰写分析报告、开发 Web 应用等多项能力，真正做到“一句话，让 Al帮你完成复杂任务”。
更多推荐
2
0- 0
已为社区贡献1条内容
所有评论(0)