自然言語処理
Online ISSN : 2185-8314
Print ISSN : 1340-7619
ISSN-L : 1340-7619
一般論文(査読有)
プロンプトに基づくテキスト埋め込みのタスクによる冗長性,等方性,固有次元の違い
塚越 駿笹野 遼平
著者情報
ジャーナル フリー

2026 年 33 巻 1 号 p. 76-108

詳細
抄録

近年,プロンプトを与えることでタスクごとに適した埋め込み表現を出力する,プロンプトに基づくテキスト埋め込みモデルが高い性能を示している.しかし,これらのモデルはしばしば数千次元に及ぶ巨大な埋め込み表現を出力するため推論コストや保存コストに課題がある.本論文では,プロンプトに基づくテキスト埋め込みモデルから出力された埋め込み表現に対して,事後的に次元削減を適用した場合に,分類,クラスタリング,検索,および文類似度 (STS) タスクの性能にそれぞれどのような影響があるかを調査した.その結果,埋め込み次元の先頭25%のみを保持するという単純な次元削減であっても,性能低下はごくわずかであることがわかり,これらの埋め込み表現には高い冗長性が存在することがわかった.特に,分類とクラスタリングにおいては,元の次元数の0.5%未満にまで次元削減を施しても,その性能低下は極めて小さく,埋め込み表現に非常に高い冗長性があることが示唆された.さらに,観察された冗長性を定量的に評価するため,埋め込み表現の固有次元 (Intrinsic Dimensionality) および等方性 (Isotropy) を調査した.その結果,分類やクラスタリングに用いられる埋め込み表現は,固有次元数が小さく等方性が低いことがわかった.一方で,検索や STS に用いられる埋め込み表現は,固有次元数が大きく,等方性が高いことがわかった.

著者関連情報
© 2026 一般社団法人 言語処理学会
前の記事 次の記事
feedback
Top