MNIST对抗样本攻击与防御

• 把Colab运行后生成的文件保存到Google drive

• Pytorch官方教程-对抗样本生成

• Pytorch保存和加载模型

  官方文档

  How to load pytorch model

• ADVERSARIAL EXAMPLE GENERATION

  文档做的真好

FGSM_untargeted

• 超级大bug

  pytorch:torch.clamp()

  pytorch中归一化transforms.Normalize的真正计算过程

  我在dataloader里归一化的时候，数据范围不在0,1内，但是用torch.clamp()将数据限制在了0,1内，所以就出问题了

FGSM_targeted

• 探索loss.backward() 和optimizer.step()的关系并灵活运用
• pytorch之model.zero_grad() 与 optimizer.zero_grad()
• leaf Variable、requires_grad、grad_fn的含义以及它们之间的关系
• Pytorch中requires_grad_(), detach(), torch.no_grad()的区别
• 解决对一个对象多次BP更新时造成的RuntimeError: you can only change requires_grad flags of leaf variables.问题

Defense

• 用训练集产生对抗样本 跟原训练集合起来重新训练
  然后再用测试集产生的对抗样本对防御效果进行测试

---

参见

• 本文作者：wan_nan
• 本文链接：https://wan-nan.github.io/2022/06/02/MNIST%E5%AF%B9%E6%8A%97%E6%A0%B7%E6%9C%AC%E6%94%BB%E5%87%BB%E4%B8%8E%E9%98%B2%E5%BE%A1/
• 版权声明：本博客所有文章除特别声明外，均默认采用 许可协议。