機械学習モデルの予測に対して「予測に影響を与えた訓練事例」を予測の判断根拠として提示することで、ユーザの予測に対する納得感や信頼性を向上させることができる。「訓練事例が予測に与える影響」の指標として、素朴には「テスト事例と訓練事例の入力の類似度」などが考えられる他、「当該訓練事例を学習から除外した場合の予測の変化度合い」や「予測に対する勾配ベクトルの余弦類似度」など様々な指標が提案されている。本研究では影響指標が満たすべきいくつかの要件を考え、各指標が要件を満たすかどうかを調べた。結果、いくつかの指標が要件を満たさないことを実験的に確認した。
