LLMを用いた音声対話システムの先取り応答生成における文末欠損の影響を低減する手法

抄録

本研究は，大規模言語モデル（LLM）を音声対話システムに組み込むにあたって課題となる応答速度の改善を目的としている．音声入出力による対話システムでは，音声認識技術を利用してユーザの完全な発話テキストを取得したタイミングで初めてLLMによる応答文の生成を開始できる．そのため，システムがユーザへ応答するまでに遅延が発生する．そこで本研究では，VAPによるユーザ発話終了予測を利用しユーザの発話終了を待たずに取得した発話テキストに対する応答文を生成する先取り応答により，対話システムの応答を早めることを考える．文末の欠損による意味変化に対応するため，ユーザの末尾欠損発話文と完全発話文の類似度を比較し，応答文の再生成判定を行う．実験では先取り応答と再生成判定を比較条件とし，ユーザ評価を行った．本稿ではシステム間の応答速度の差異とアンケートを評価した結果を示す．