モデルの不確実性を利用した説明内容の揺らぎの抑制に向けた説明可能AIにおける積分経路最適化

抄録

近年、AIのアルゴリズムの複雑化に伴い、AI出力に対する説明の重要性が高まっている。AI出力の説明内容として、AI出力への特徴量の寄与度が広く用いられているが、AIの不確実性に起因する寄与度の揺らぎが信頼性を損ねる課題の一つであった。本研究では、AI出力の説明内容の高信頼化に向けたアプローチとして、寄与度の揺らぎを抑制する手法を検討する。既存研究では、説明手法で用いられる積分経路を潜在空間で扱った手法などが提案されている。しかし、寄与度の揺らぎを積極的に抑制する手法は検討されていなかった。本発表では、説明手法における積分経路を最適化する手法を示し、寄与度の揺らぎが抑制される結果を紹介する。