信頼の獲得に向けた物体認識結果の選択的提示手法の検討

抄録

意思決定に関する説明は、AIがユーザの信頼を得るために重要な役割を果たす。しかし、過剰な説明は効果を低下させ、あるいは負の結果をもたらすことがある。本稿では、ユーザが自動運転車の物体検出結果を見ながら自動運転をAIに任せるか判断するシナリオにおいて、ユーザの信頼を維持しつつ説明の提示回数を減らす手法を提案する。本手法によって、ユーザの信頼を維持したまま提示する説明の個数を減らすことができた。