Instance AttributionとFeature Attributionの一貫性制約を満たす集合関数の局所説明法

抄録

集合関数に対する局所説明では、集合の要素（インスタンス）がどのように寄与するかのInstance attribution (IA)と、各要素の特徴量がどのように寄与するかのFeature attribution (FA)の2つが考えられる。IAはそのインスタンスを構成する特徴のFAの合計と一致すると考えるのが自然であり、説明の一貫性の観点でも重要なことであるが、既存説明法を用いた場合、その一致性を達成することは困難である。本研究では、IAとFAの一貫性制約の下でこれらを同時に推定するモデル非依存の局所説明法を提案する。実験では、提案法を用いることでIAとFAが一貫した説明が可能になることを示すとともに、より少数の集合関数の実行回数で高精度な説明が得られることを示す。