AIの説明表現が意思決定に及ぼす影響

抄録

AIによる意思決定支援システムにおいて，説明はユーザがシステムの提案を評価するために重要な情報である．自然言語による説明は，大規模言語モデルの登場により，その表現方法を容易に調整できるようになった．しかしながら，説明の表現が人間の意思決定に及ぼす影響については十分に解明されていない．そこで本研究では，フォーマルやユーモラスなどといった説明のトーンが意思決定にどのような影響を及ぼすかを，AIの役割およびユーザ属性の観点で調査する．我々は，3つのAIの役割（アシスタント，セカンドオピニオン，専門家）に基づくシナリオを対象にユーザ実験を実施した．その結果，セカンドオピニオンのシナリオでは，ユーザ属性に関係なく説明のトーンが意思決定に有意な影響を及ぼすことが明らかになった．一方でアシスタントおよび専門家のシナリオでは，トーンの影響はユーザ属性によって異なることがわかった．高齢のユーザはトーンの影響を受けやすく，外向性が高いユーザは認知と意思決定に不一致が生じる傾向が示唆された．本研究は，AIシステムにおける効果的な説明表現の設計に向けた知見を提供する．