大規模言語モデルの動向と利活用に向けた検討

抄録

大規模言語モデルの発展が著しい，OpenAI 社のモデルである GPT-4 に匹敵するモデルが各社から発表されている．また，入力データとして画像に対応した GPT-4V(ision) ，画像の理解力が向上している GPT- 4o など，多様な入力データに対応するマルチモーダル化が進んでいる．本論稿では，大規模言語モデルの技術的な動向についてレビューを行い，ユースケースとして医療分野と土木分野での活用状況についてレビューを行う．また，土木の専門知識を導入する方法として，現状費用対効果が高いと考えられる RAGについて仕組みや課題を整理した．RAG の実装結果などを基に，業務に対する知識などをどのように取り込んでいくか知識プラットフォームとしての課題を整理した．