ModernBERT を活用した意味的コード検索

抄録

ソフトウェア開発および保守支援において，自然言語記述に基づく意味的コード検索は広く普及しつつある．特に近年では，Transformerベースのエンコーダを応用した意味的コード検索手法がいくつも提案されている．筆者らは，8つのプログラミング言語における関数コードとそれに対する説明文の対で構成された学習コーパスを準備し，BERTの改良版であるModernBERTを活用した学習モデルを構築した．本論文では，筆者らが構築したModernBERTベースの学習モデルを説明し，コード検索における既存の学習モデルとの性能比較の結果を述べる．また，構築した学習モデルを採用した意味的コード検索システムを，統合開発環境Visual Studio Codeに組み込んだ実装を提案する．