オープンドメイン質問応答タスクにおける検索拡張生成時の適合文書の分布による解答生成性能への影響

抄録

本研究では，大規模言語モデルの検索拡張生成 (RAG) において，適合文書の入力分布が解答生成性能に与える影響を調査した． 大規模言語モデルは学習の過程でさまざまな知識を獲得するが，これらの知識は多様な解答を行ううえで十分ではない．そこで，現在，大規模言語モデルに検索モジュールを組み込むことで知識を補間する RAG が盛んに取り入れられている． 本研究では，オープンドメイン質問応答タスクを対象に，適合文書の入力位置や適合文書の件数，比率といった分布が解答生成性能に与える影響を調査した． 評価実験の結果，適合情報が局所的に集約されている場合に解答生成性能を向上させることを示唆された．