LRP法による畳み込みニューラルネットワークにおける中間層の振る舞いの可視化

抄録

近年，深層ニューラルネットワークのような複雑な構造をもつ機械学習モデルの予測性能が向上し，実応用で重要な役割を果たしている．一方，それらのモデルの振る舞いが人間にとって明らかではないため，常にモデルの改善の必要性に迫られている利用者にとって，モデルの解釈が重要な課題になりつつある．本論文では畳み込みニューラルネットワークの中間層の振る舞いに注目し，LRP (layer-wise releavance propagation) 法により中間層の振る舞いの可視化を行う．この可視化により得られた幾つかの知見について報告する．