AI診断支援システムはエビデンスと謙虚さを示せるか？

Surrogate modelによるXAIとUQとの融合

抄録

Objectives: 診断支援システム(CDSS)のXAI機能とUQ(Uncertainty Quantification)機能を提案する。 ベースとなるCDSSは、JSAI2022で発表したシステムである。 Method: XAI・UQ機能はk近傍法による"同一の"代理モデル(k-NN Surrogate model)を採用している。 XAI手法はExample-based Explanationであり、予測データの訓練データのインスタンスから医学文献や疾患に関する情報を出力する。 UQ手法はConformal Predictionであり、Difficulty EstimatorによるDifficulty scoreを出力する。 主モデルの予測データへの近接化(Closest)処理により、代理モデルはより適応したデータを出力する。 Conclusions: 提案したXAI・UQ機能は他のCDSSでも適応可能である。 本CDSSの予測・XAI・UQ機能は、現在の商用のLLMとは異なり、予測データのエビデンス情報と不確実性に関する情報を医療従事者に提供することができる。