大規模言語モデルの誤信念に対するかまえの提案

抄録

誤った信念（誤信念）を持った人が自分の考えを他者に共有する際，聞き手となる他者は誤信念を指摘することが求められる場合がある．一方LLMはそのような誤信念を指摘しない傾向がある．本研究では，聞き手が話し手に誤信念が含まれる可能性を考慮する姿勢を誤信念に対するかまえとよび，信念・願望・意図という心的状態に関するプロンプトを用いてそのかまえをLLMに与えることを提案する．実験では14件の誤信念を含む事例を用いて，①誤信念に対するかまえを与える場合，②与えない場合，③誤信念を指摘しなかったLLMに後から①と同様のプロンプトを与える場合の3条件を比較した．結果，①だけが全事例で誤信念の検出ができた．