人工知能学会全国大会論文集
第34回全国大会(2020)
セッションID: 3Rin4-44
会議情報

混合整数線形計画法に基づく実現可能性を考慮した反事実的説明法
*金森 憲太朗高木 拓也小林 健有村 博紀
著者情報
会議録・要旨集 フリー

詳細
抄録

反事実的説明法(CE: Counterfactual Explanation)は,機械学習モデルの予測結果から説明を抽出する事後的手法の一つで,予測結果を所望のクラスに反転させるような特徴量の摂動方法を,説明としてユーザに提示する.ユーザはその摂動を,自らが望む予測結果を得るための"改善アクション"として直接解釈することができる.しかし,既存の改善アクション抽出法では,特徴量間の相関関係や外れ値リスクなど,元のデータが従う分布が持つ特性が十分に考慮されていないため,ユーザにとって実現可能な改善アクションが得られるとは限らず,改善アクションの実用性や信頼性に問題がある.そこで本研究では,実現可能な改善アクションを抽出するために,特徴量間の相関と外れ値検出スコアに基づく改善アクションの新たな評価関数を導入し,混合整数計画法に基づく解法を提案する.FICOデータセットを含む実データ実験により既存の改善アクション抽出法と比較を行い,提案手法の有効性について確認する.

著者関連情報
© 2020 一般社団法人 人工知能学会
前の記事 次の記事
feedback
Top