人工知能学会全国大会論文集
Online ISSN : 2758-7347
第34回 (2020)
セッションID: 3Rin4-69
会議情報

標的型敵対的攻撃による巻き込み現象の検出と可視化
*藤堂 健世安田 翔也山村 雅幸
著者情報
会議録・要旨集 フリー

詳細
抄録

機械学習における敵対的攻撃が注目を集めている。ブラックボックスなニューラルネットに対する普遍的かつ標的型の敵対的攻撃は困難と言われており、これを利用したニューラルネットの構造解析の知見は未だ十分とは言えない。本稿では,ブラックボックス・普遍的・標的型攻撃のための画像ノイズを遺伝的アルゴリズムによって作成し、これを適用した他クラスサンプルの圧縮空間上での遷移挙動から,ニューラルネットワークの特徴量構造の特性を調査した.その結果、あるクラスに対する標的型ノイズが、他クラスのサンプルに特徴的な遷移を誘導する「巻き込み」現象が観察された。巻き込みの発生度合いはクラスごとに異なったため、クラスごとに敵対的攻撃に対する耐性が異なることが示唆された。これらはクラスの距離に対応する何らかの指標と解釈することができ,ひいては特徴量空間の解析の糸口になると考えられる.

著者関連情報
© 2020 一般社団法人 人工知能学会
前の記事 次の記事
feedback
Top