閾値以下のスコア値を用いた物体検知における敵対的サンプル攻撃への対策技術

抄録

敵対的サンプルとは、モデルへの入力に摂動を加えることでモデルが誤った結果を出力するように生成された入力であり、物体検知においては印刷されたパッチ画像を配置することで対象の検知を回避する攻撃手法が知られている。本稿では、このような物体検知における敵対的サンプルパッチ攻撃への対策技術として、入力画像において敵対的サンプルパッチによる攻撃が行われているか否かを検知する技術を提案する。本技術では、物体検知における閾値に達しない認識スコアの値を用いて敵対的サンプルパッチの位置を推定して塗りつぶしによる処理を行う。本技術がランダムな分類にくらべて十分に有効であるとINRIA Personデータセットを用いた検証によって示す。