DialCopy: 検索情報の効果的活用と重複応答の削減を目指したデータ拡張手法

抄録

近年の対話システム向け言語モデルは、重複応答や検索情報の不十分な活用という課題に直面している。これを解決するため、我々は新しいデータ拡張手法「DialCopy」を提案する。この手法は、検索された情報を含む正例応答を生成し、重複する部分を持つ負例応答を同時に生成することでデータセットを拡張する。正例と負例の応答ペアを用いた対照学習により、モデルは情報豊富な応答と重複・不正確な応答を区別し、検索情報を効果的に活用しつつ、重複応答を削減する能力を高める。さらに、文脈に基づき応答の欠落部分を予測し、補完する対話穴埋めモデルを活用し、拡張データの応答をより自然に改善する。実験結果から、DialCopyは検索情報のより効果的な利用と重複応答の削減において、ベースラインモデルを上回る性能を示した。