フォーラム
説明可能AIとその信頼性
2025 年 54 巻 1 号 p. 101-112
詳細
2025 年 54 巻 1 号 p. 101-112
機械学習を利用する上での課題の一つに「機械学習モデルはブラックボックスで説明ができない」点があげられる．このようなモデルのブラックボックス性の問題を解消するために，機械学習モデルの“説明” の研究が活発になされている．本稿ではこれら“説明” 手法の代表的な研究を紹介する．また，近年の研究においてこれらの“説明” 手法そのものの信頼性に課題があることが明らかになってきている．本稿ではこれら“説明” の信頼性に関する最近の研究についても紹介する．
