タスク指向対話の対話状態追跡における言語モデルのHallucinationの抑制

抄録

近年，自然言語を用いた対話システムが盛んに利用されている．特にChatGPTを代表とした大規模言語モデルの登場により，ユーザーは様々な自然言語処理タスクを高い精度で実行できるようになった．また，単なるテキスト生成に留まらず，デバイスの操作や情報取得などのタスク指向対話システムへの関心が高まっている．しかし，大規模言語モデルにはHallucinationという課題がある．これは事実とは異なる内容，意図しない内容を生成してしまうことを指す．これにより誤ったデバイスの操作や情報取得が行われる可能性があり，実世界において重大な問題となり得る．そこで本研究ではタスク指向対話における，言語モデルによるHallucinationを抑制する制御手法を提案する．具体的には制約付きデコーディングを使用してAPIスキーマの名称を誤って生成しないようにする．この制約の導入により，精度の向上が確認された．