自然言語処理
Online ISSN : 2185-8314
Print ISSN : 1340-7619
ISSN-L : 1340-7619
一般論文(査読有)
Ruri:日本語に特化した汎用テキスト埋め込みモデル
塚越 駿笹野 遼平
著者情報
ジャーナル フリー

2026 年 33 巻 2 号 p. 591-629

詳細
抄録

近年,英語や多言語の汎用的なテキスト埋め込みモデルの開発が盛んに行われている.しかし,日本語を対象としたモデル開発の取り組みは限定的であり,その理由としてはデータセットの不足やモデル開発のための知見が少ないことが挙げられる.本稿では,日本語汎用テキスト埋め込みモデルRuriを開発し,その過程について述べる.具体的には,訓練データの不足を補うための大規模言語モデルによる合成データセット構築,対照事前学習によるベースモデルの訓練,そして高品質データを用いた微調整について説明する.構築したテキスト埋め込みモデルRuriは,日本語テキスト埋め込みのベンチマークにおいて既存のモデルを上回る性能を達成した.

著者関連情報
© 2026 一般社団法人 言語処理学会
前の記事 次の記事
feedback
Top