線形パターンの質問学習アルゴリズムによる深層学習モデルの予測根拠の可視化

抄録

記号列の集合を訓練データとする学習済みLSTM(Long Short Term Memory)の予測根拠を可視化する質問学習アルゴリズムを提案する。本稿で提案するアルゴリズムは、計算論的学習理論における学習モデルのひとつである質問学習モデルに基づいている。提案アルゴリズムは、学習済みLSTM Mをオラクルとして動作する。記号列の集合Dの複数の記号列Xを入力として、オラクルMへの質問をXのサイズの線形回数だけ繰り返すことにより、Mの予測根拠を、線形パターンを表現として可視化する。さらに、線形パターン（学習目標のパターン）がマッチする記号列の集合Dに対して、Dの部分集合を訓練データとする学習済みLSTMを作成し、それをオラクルとして提案アルゴリズムを動作させて、その出力である線形パターン（可視化のためのパターン）の評価実験を行ったので、その結果を報告する。