機械学習における説明

抄録

機械学習技術の発展により，高精度な機械学習モデルの社会実装への期待が高まってきている．しかし，深層学習モデルに代表される高精度なモデルはきわめて複雑な構造をしており，その推論プロセスや出力の根拠を人間が論理的ないし直感的に読み解くことは困難である．本稿ではこのような「ブラックボックス」なモデルを近似的・部分的に読み解くための説明法を紹介する．