ネットワーク不変量に基づく敵対的データ検出技術の実装と評価

抄録

ニューラルネットワークへの入力データに対して加えられた敵対的な摂動（敵対的データ、Adversarial Examples）の検出技術として、メトリックベースアプローチ、デノイザーアプローチ、予測不整合ベースアプローチ、ネットワーク不変量チェックアプローチなどが提案されている。本発表では、それらのアプローチのなかで最も高い検出率が報告されているネットワーク不変量チェックアプローチ（NIC法）の実用化に向けた実装法について説明し、実際に高い検出率で敵対的な摂動を検出できたことを報告する。また、NIC法が高い検出率を示す理由について考察した結果についても報告する。