Prompt-tuningによるHallucinationの事後修正

抄録

様々な言語処理タスクに対して大規模言語モデル（LLM）の活用が広まりつつあるが，大規模言語モデルには事実と整合しない情報を生成するというhallucinationの問題が指摘されている．これを解決するため，機械学習を利用してhallucinationの検出器，修正器を構築する方法が提案されているが，検出器による誤検出や修正器による過剰修正が発生し，十分な解決に至っていない．一方，hallucinationの検出，修正にLLMそのものを利用する方法も提案されているが，それらはmulti promptを利用したパイプライン処理をしているため，誤検出，過剰修正に対する本質的な解決策となっていない．そこで，本研究では，single prompt による事後修正手法を提案する．数字と固有名詞に関するhallucination に焦点を当て，既存手法との比較評価を行い，提案手法の有効性を確認した．