关于IA计算过程
Closed this issue · 8 comments
作者提供的代码中，第256行，好像在迭代计算IA的过程中加入了随机噪声，这一点好像在论文中并没有体现。请问这个随机噪声有什么讲究么？我用pytorch复现的过程中发现，没有这个随机噪声NAA的效果还不如FIA。
是不是与下面这篇文章中的TAIG-R类似，通过随机数来获得一个随机的积分路径
Huang, Y., & Kong, A. (2022). Transferable Adversarial Attack based on Integrated Gradients. ICLR. https://doi.org/10.48550/arxiv.2205.13152
是不是与下面这篇文章中的TAIG-R类似，通过随机数来获得一个随机的积分路径 Huang, Y., & Kong, A. (2022). Transferable Adversarial Attack based on Integrated Gradients. ICLR. https://doi.org/10.48550/arxiv.2205.13152
是的，这篇文章我也看过，非常类似。但对于NAA来说，这个随机噪声好像显得更为重要，这个随机噪声可以帮助NAA提高很多的迁移性，以至于可以超越FIA（依据文章），但是，从我的复现结果来看，这个噪声的大小或者分布应该有些讲究，我不清楚作者添加的这个随机噪声有什么理论指导么？如果按照论文里给的伪代码，或者作者提供的代码，添加一个高斯分布的随机噪声，至少在正常训练的模型上很难超越FIA的性能。添加高斯分布的随机噪声也只能达到和FIA旗鼓相当的水平。
你好，本文提供了一种基于attribution来进行特征攻击的算法。代码是根据Smoothgrad来进行实现，可参考文中的引用25。
作者提供的代码中，第256行，好像在迭代计算IA的过程中加入了随机噪声，这一点好像在论文中并没有体现。请问这个随机噪声有什么讲究么？我用pytorch复现的过程中发现，没有这个随机噪声NAA的效果还不如FIA。
你好，我正在看NAA的论文，如果您使用pytorch实现了该论文的算法，能否发给我一份🥺，感激不敬！
是不是与下面这篇文章中的TAIG-R类似，通过随机数来获得一个随机的积分路径 Huang, Y., & Kong, A. (2022). Transferable Adversarial Attack based on Integrated Gradients. ICLR. [https://doi.org/10.48550/arxiv.2205.13152 ](https://doi.org/10.48550/arxiv.2205.13152)
是的，这篇文章我也看过，非常类似。但对于NAA来说，这个随机噪声好像显得更为重要，这个随机噪声可以帮助NAA提高很多的迁移性，以至于可以超越FIA（依据文章），但是，从我的复现结果来看，这个噪声的大小或者分布应该有些讲究，我不清楚作者添加的这个随机噪声有什么理论指导么？如果按照论文里给的伪代码，或者作者提供的代码，添加一个高斯分布的随机噪声，至少在正常训练的模型上很难超越FIA的性能。添加高斯分布的随机噪声也只能达到和FIA旗鼓相当的水平。
论文貌似是基于IG的归因方法，SMoothGrad用于去噪的目的，不去噪显示的图像会有很多噪点，基于梯度的都会遇到噪声问题，FIA的聚集梯度也是为了显示更加清晰的图像，IG的归因方法比普通梯度方法要更好，我的理解
作者提供的代码中，第256行，希望在迭代计算IA的过程中加入随机噪声，这一点希望在论文中并没有体现。请问这个随机噪声有什么讲究吗？我用pytorch复现的过程中发现，没有这种随机噪声NAA的效果还不如FIA。
你好，我正在看 NAA 的论文，如果你使用 pytorch 实现了该论文的算法，能否开发给我一份🥺，感激不敬！
作者提供的代码中，第256行，希望在迭代计算IA的过程中加入随机噪声，这一点希望在论文中并没有体现。请问这个随机噪声有什么讲究吗？我用pytorch复现的过程中发现，没有这种随机噪声NAA的效果还不如FIA。
你好，我正在看 NAA 的论文，如果你使用 pytorch 实现了该论文的算法，能否开发给我一份🥺，感激不敬！
great! 非常感谢。
作者提供的代码中，第256行，希望在迭代计算IA的过程中加入随机噪声，这一点希望在论文中并没有体现。请问这个随机噪声有什么讲究吗？我用pytorch复现的过程中发现，没有这种随机噪声NAA的效果还不如FIA。
你好，我正在看 NAA 的论文，如果你使用 pytorch 实现了该论文的算法，能否开发给我一份🥺，感激不敬！
你好！我复现的pytorch版本已开源在这里：https://github.com/OUTOFTEN/adversarial-attack/blob/master/attack_algorithem/NAA.py。由于最近比较忙，且该本地仓库已经逐渐庞大，而我还没来得及整理，因此，我只放了攻击的核心代码，也没来得及写注释，如有疑问欢迎讨论。值得注意的是，作者使用的smoothgrad在一定噪声幅度下是有效的（这和图像数据本身有关），好像smoothgrad的论文也说到了这一点，并不是随便加噪声都有用。目前我只验证了我代码里的噪声幅度在图像数据范围处于[-1,1]时有效。
FIA的pytorch代码能提供一份吗？ 这对我很有用🥺