特徴アテンションを用いた時系列データのアトリビューション抽出

抄録

製造業などの産業へのニューラルネットの応用に際し，どの特徴量が出力に対して重要な役割を持つか(アトリビューション)を抽出することは，モデルの信頼性や起きている事象を人が把握する上で非常に重要な課題である．Attentionは一般に自然言語処理などにおいて，時系列間の動的な依存関係を扱うために用いられている．本研究ではattentionを特徴量間の重みとして適用し，特徴量毎に独立したアトリビューションを抽出する手法を提案する．また，実センサデータを使って実験を行い，その有用性の検証を行なった．