機械学習モデルの脆弱性と対応策

1. 脆弱性

• JVN

  • 2020/03/25　JVNVU#99619336:
    勾配降下法を使用する機械学習モデルに、誤った識別をさせるような入力を作成することが可能な問題

• Experimental Security Research of Tesla Autopilot

  • Web
  • PDF

• Phantom of the ADAS: Phantom Attacks on Driver-Assistance Systems

  • Web
  • PDF

2. 対応策

2.1 攻撃を想定した学習

• Cleverhans
  • Blog
  • GitHub
• Foolbox
  • GitHub
• Adversarial Robustness Toolkit (ART)
  • GitHub

2.2 多層防御

• Machine Learning in Cybersecurity: A Guide
  • Web
  • PDF

3. 参考情報

• Towards the Science of Security and Privacy in Machine Learning
  • arXiv
• Wild Patterns: Ten Years After the Rise of Adversarial Machine Learning
  • arXiv
• On Adaptive Attacks to Adversarial Example Defenses
  • arXiv