Adversarial Example Attackに対する平滑化フィルタベースDenoising技術の提案

抄録

AI技術の発展に伴い，人命喪失や環境汚染等に影響のない非クリティカル分野でのAI活用が進んでおり，今後重要インフラシステムや自動車分野等のクリティカルな分野にもAIの導入が進むことが予想されている．また学術分野では，誤判断させる悪意ある入力をあたえるAdversarial Example Attackをはじめとした多数のセキュリティ攻撃事例が報告されている．このような状況をうけて，国内外で策定されているAIガイドラインにおいてAIのセキュリティ対策をすることが推奨されている．以上の背景から，我々はAdversaroal Example Attackの対策技術を検討している．本稿では学習モデルに影響のない入力データを加工するDenoising技術を紹介する．本提案手法の検討にあたり，画像の輝度値を平らに滑らかにすることでノイズを除去する平滑化フィルタを活用した．本提案手法ではAdversarial Exampleに対して約85%の精度で正しい判定結果となった．