Universal Pertubation则是以最大化成功率的使用这些法向量构建扰动 , 因而它也会学习到决策界的相关性 。
启发与未来工作点
Universal pertubations的存在 , 使得我们可以通过预训练找好这种通用扰动 , 然后在实际预测的时候直接把这些扰动加到正常样本上来实施攻击 。在这种攻击模式下 , 攻击者在预测阶段是可以做到实时的 , 可以不用像传统方法那样花大量的时间针对测试阶段遇到的样本计算对抗扰动 。在实时对抗领域 , universal pertubation会有很大的空间 。
应该也可以使用GAN来产生这种universal pertubation 。Generator接受噪声 z , 产生universal pertubations , 然后把这种扰动加到所有的正常样本 x 上 , 使得鉴别器 k?(?) \hat k(·)
(?)(这个鉴别器可以事先训练 , GAN训练过程中固定住它)把 x+v x+vx+v识别错 , 同时在损失函数中加入对 v 的范数约束 。
有目标的pertubations.文中提到的方法是无targeted的 , 只要universal pertubation把原始样本被分类器识别错了就行 。这里的targeted可以是:1. 只针对特定的类别做干扰的 , 例如 universal pertubations可以加到所有图片上 , 但只会把含有狗的图片这类特殊对象攻击成功 。2. Universal pertubations加到所有图片上后 , 会把所有图片的狗的得分都大化 , 而不管图片是不是真的有狗 。
代码地址:
http://github.com/LTS4/universal
(*本文为 AI科技大本营转载文章 , 请联系原作者)
◆
◆
2019 中国大数据技术大会(BDTC)再度来袭!豪华主席阵容及百位技术专家齐聚 , 15 场精选专题技术和行业论坛 , 超强干货+技术剖析+行业实践立体解读 , 深入解析热门技术在行业中的实践落地 。
【Universal官网 universal universal表价格】即日起 , 限量 5 折票开售 , 数量有限 , 扫码购买 , 先到先得!
- 网易云音乐网页版官网 网易云音乐网页版 网易云音乐网页版官网
- 中国农业科学院研究生院官网 中国农业科学院 中国农科院是211吗
- iphone官网 苹果12 iphone官网 苹果iphone14官方价格
- 手机一键root获得root权限 强力一键root官网
- 微软surface官网中国 surface surface中国官网
- google搜索googlegoogle google搜索 google搜索官网
- 电子科技大学中山学院官网 电子科技大学中山学院 中山学院学费一览表
- netflix 奈飞官网netflix
- 原神B站官网 b站原神论坛在哪里
- 南京信息工程大学研究生院 南京信息工程大学研究生院 南信大研究生官网2022