継続事前学習を適用した大規模言語モデルに基づく小論文自動採点手法

抄録

本研究は，大規模言語モデルを用いた小論文自動採点において，答案本文は参照可能だが得点ラベルが得られていない状況を想定し，採点対象の答案本文のみを用いたラベルなし継続事前学習が，Zero-shotで得点を予測する際の性能をどの程度改善するかを検証する．学習の進行に伴う性能の推移を分析し，指標が最大となる学習段階を算出し，適用がもたらしうる上限的効果を明らかにする．