解釈可能な画像分類モデルにおける疎な特徴量選択について

抄録

深層学習の技術を責任の伴う分野に適用するにあたり，解釈可能なモデルの開発が必要である．本研究では，解釈可能な画像分類モデルの中でも特に有望な PIP-Net に着目し，その動作の検証と改善を行うことを目的とする．観察の結果，PIP-Net には画像領域の殆どを単一の概念(prototype)に包含して扱う現象が確認された．本稿では，この現象の問題点を指摘したうえで，損失関数の改善により現象のコントロールに成功したことを報告する．