抄録
近年,大規模言語モデル(LLM: Large Language Model)は自然言語処理(NLP)タスクに限らず,ソフトウェア工学(SE)タスクでも広く活用されているが,高額なAPI利用コストが課題となっている.この課題に対処するため,モデルルーティング手法が近年注目されている.モデルルーティングとは,単一のLLMに全てのタスクを処理させるのではなく,タスクに応じて最適な専門モデルの組合せを選択し,出力を生成するための手法である.
そのモデルルーティングの一種として,LLMカスケード [1] がある.LLMカスケードは,安価なモデルから順にクエリを処理し,不十分な場合のみ高性能モデルへ委譲することでコスト削減を図る手法である.しかし既存研究はほとんどがNLPタスクを対象としており,SEタスクでの効果は十分に検証されていない.
本研究では,SE タスクである HumanEval [2],MBPP+[3]と,NLPタスクであるMMLU[4],HEADLINES [5] の 4 つのベンチマークを用いて,GPT-5nano,GPT-5-mini,GPT-5の3階層からなるLLMカスケードを構築し,LLMカスケードのコスト削減効果を実証的に検証した.結果,HumanEval で 71.26 %,MBPP+で57.96%のコスト削減を達成し,性能は全タスクでGPT-5 単体を上回った.また,Wilcoxon 符号順位検定により性能向上の有意性を統計的に確認した(HumanEval: p < 0.01,MBPP+: p < 0.01).
本研究により,SEタスクにおいてもLLMカスケードが有効であることが実証された.今後はより高難度なSEタスクや,異なるモデルの組み合わせがコスト削減・性能に与える影響を検証することが課題となる.