システム1に駆動された質問生成に基づくヒューマンインザループによるシステム2の構築

抄録

機械学習モデルの推論過程の不透明さは実社会への導入において懸念事項となるため，精度と解釈性を両立した 機械学習モデルの実現が求められている．Wanらは多クラス分類を行う深層学習モデルから，二値分類器を各ノードとした木構造による分類モデルを生成するNBDTという手法を提案しているが，構築された木構造の各ノードがどのような判断を意味しているのかは不明瞭である．本研究では，NBDTによって構築された木構造モデルをヒューマンインザループに組み込むことで，判断に使っている特徴が自然言語で説明可能な機械学習モデルを再構築する手法を提案する．提案手法は，構築された木構造の各ノードのアノテーションおよびアノテーションの評価を人間に行わせることで判断が明瞭なノードのみを抽出し，抽出された木構造モデルを基に判断が明瞭な機械学習モデルを再構築する．クラウドソーシングを用いた実験によって，自然言語で特徴付けられた判断に基づく機械学習モデルの構築が可能であることが示された．