Data Poisoning Attacks and Evation Attacks
1. Evation Attacks (Adversarial Examples)
GitHub 上关于对抗样本的 repo
仓库 | 类型 | 描述 |
---|---|---|
cleverhans | 攻击&防御 | AML 领域鼻祖型的 repo,Goodfellow & Papernot 开发,提供攻击方法和防御方法。 |
foolbox | 攻击 | 主要功能是用来产生对抗样本,实现了大概15种攻击方法,没有提供防御功能。 |
adversarial-robustness-toolbox (ART) | 攻击 & 防御 | 提供了大量的攻击方法和防御方法,API很好调用,还提供了几种检测对抗样本的方法。 |
machine_learning_adversarial_examples | 攻击 | 主要复现论文Explaning and Harnessing Adversarial Examples 中的FGSM算法。 |
Adversarial_Learning_Paper | awesome | AML 相关论文列表,包含Survey , Attack , Defense |
AdversarialDNN-Playground | 可视化 | 可视化攻击过程,同时在理论层面对攻击方法做了一定的分析(见仓库中的presentation) |
awesome-adversarial-machine-learning | awesome | 总结了AML 相关的blogs , papers , talks |
AdvBox | 攻击&防御 | 百度产品,提供各种攻击和防御方法,支持命令行直接生成对抗样本(zero-coding) |
adversarial-examples | 攻击 | 理论层面,提供了几种常用攻击方法;现实层面,对路标进行攻击。 |
adversarial_examples | 攻击 | 提供了几种常用攻击方法,做了图表分析。 |
Adversarial-Examples-Reading-List | awesome | AML 相关论文列表,包含attacks , defenses 。作者是 UC Berkeley 博士生。 |
nn_robust_attacks | 攻击 | 论文Towards Evaluating the Robustness of Neural Networks 代码。作者从 UC Berkeley博士毕业。 |
awesome-adversarial-examples-dl | awesome | AML 论文列表,包含Attack , Defense , Application |
FeatureSqueezing | 防御 | Detecting Adversarial Examples in Deep Neural Network。项目停止维护,移至EvadeML-Zoo |
adversarial-example-pytorch | 攻击 | pytorch 实现常用攻击方法,并且提供可视化功能。 |
EvadeML-Zoo | 攻击&防御 | 提供预训练模型,常用数据集,常用攻击方法;可视化对抗样本。 |
robust-physical-attack | 攻击 | 现实情境中攻击Faster R-CNN 目标检测模型,提供targeted & untargeted 两种攻击方式。 |
advertorch | 攻击 & 防御 | foolbox 的精简版,pytorch 实现,只提供了一部分的攻击和防御方法。 |
Non-Targeted-Adversarial-Attacks | 攻击 | NIPS 2017对抗样本攻防大赛 Non-targeted attack 第一名。 |
Targeted-Adversarial-Attack | 攻击 | 同样是 NIPS 2017 攻防大赛中 Targeted attack 第一名,作者还是清华大学朱军团队。 |
artificial-adversary | 攻击 | 文本模态的对抗样本,由airbnb 开发。 |
相关竞赛
有用的链接
- https://evademl.org/
- https://secml.github.io/
- http://www.cleverhans.io/
- https://aaai18adversarial.github.io/
- https://www.openmined.org/
- https://www.pluribus-one.it/
- https://www.ieee-security.org/TC/SPW2018/DLS/
- https://robust.vision/benchmark