自然言語処理
Online ISSN : 2185-8314
Print ISSN : 1340-7619
ISSN-L : 1340-7619
一般論文(査読有)
大規模言語モデルの数学・安全性チューニングコンペティションの設計と分析
大北 剛勝又 智鎌田 啓輔清丸 寛一児玉 貴志鈴木 潤鈴木 久美中山 功太Namgi Han宮尾 祐介
著者情報
ジャーナル フリー

2026 年 33 巻 2 号 p. 658-690

詳細
抄録

日本語大規模言語モデル (LLM) の性能向上を目的とし,ファインチューニングを含む多様な手法を体系的に検証するためのチューニングコンペティションを開催した.本コンペティションでは,数理推論能力を評価する数学タスクと,安全性と有用性の両立を評価する安全性タスクの二種類のベンチマークを設定し,参加チームが日本語 LLM をベースに独自に開発したモデルを競わせる.数学タスクでは,高校レベルのベンチマークを用いて日本語 LLM の推論能力を測定し,強力な外部モデル出力の活用や大規模合成データによる教師あり学習が有効であることを確認した.一方で,既存の日本語 LLM の数学的基盤知識の不足により,軽量なファインチューニングや強化学習のみでは十分な改善が得られないことも明らかとなった.安全性タスクでは,日本語で構築した安全性・有用性データセットを用いて評価を行い,Direct Preference Optimizationやモデルマージなどの手法が安全性向上に寄与する一方,一見有害に見えるが実際には回答可能な曖昧事例に対する適切な応答は依然として課題であることを示した.本開催は,日本語 LLM を対象とする初の大規模チューニングコンペティションであり,その設計・運営・結果分析を通じて,日本語 LLM の性能向上および今後のコンペティション設計に資する知見を提示する.

著者関連情報
© 2026 一般社団法人 言語処理学会
前の記事 次の記事
feedback
Top