ニューラル言語モデルによる英語語彙の類像性学習

抄録

本稿では「ニューラル言語モデルは自然言語の類像性をどのように学習するか？」という問いに答えるための実験とその結果について報告する。我々は、英語BERTをベースとした回帰モデルによって英語の類像性評定値を予測する回帰タスクの学習を実施した。実験の結果、モデルは各語がどの語類（名詞、動詞、オノマトペなど）に属するかを明示的に与えられていないにも関わらず、語類によって予測値の傾向が異なるという振る舞いを見せた。今回の結果に繋がった要因の探索や、他言語のモデルによる実験が今後必要なタスクである。