制御可能なガウスマスクを用いたRISE拡張による画像モデルの説明手法

抄録

画像の分類・予測モデルが高度化する中で、その予測の根拠を説明する重要性は増している。しかし、ホワイトボックス型の説明手法はモデルの内部構造に強く依存し、汎用的な適用が困難である。本論文では、ブラックボックス型の説明手法であるRISE (Randomized Input Sampling for Explanation) を拡張し、柔軟性を高めた新たな手法を提案する。 具体的には、RISEで用いられていたマスクを2次元ガウス分布に置き換えるとともに、その共分散を制御することで、より自由度の高い顕著性マップを提供する手法を可能にする。本実験では、共分散の制御として、事前に推定された画像の深度やセグメント情報を用いることで、より解釈性の高い顕著性マップが生成されることを確認した。 また2種類のデータセットを用いた評価では、削除指標および挿入指標が他手法と遜色ないことを示し、提案手法の有効性を実証した。