主催: 一般社団法人 人工知能学会
会議名: 第34回全国大会(2020)
回次: 34
開催地: Online
開催日: 2020/06/09 - 2020/06/12
近年,機械学習の発展に伴い実応用の際に,モデルの多くがブラックボックスであることが問題となり,説明可能性が求められている.説明可能性の研究には様々なアプローチがあるが,本研究では,分類モデルの予測結果の判断根拠となる特徴をルールモデルで提示する説明手法を新たに提案する.従来手法では,ブラックボックスな分類モデルの決定境界を決定木などのより簡単なルールモデルで近似するため,ふたつのモデルの間にギャップが生じ,ルール内の領域でルールの結論と実際の予測結果が一致しない問題が生じている.本研究はこの問題の解決を目的とし,より厳密に分類モデルを模倣できるルールを列挙する.これにより,誤説明の生じない信頼性の高い説明手法が実現できると考えられる.ベンチマークデータを用いた計算機実験によって,提案手法は分類モデルの予測結果を模倣できるルールを提示できることが確認された.