Webインテリジェンスとインタラクション研究会 予稿集
Online ISSN : 2758-2922
第21回研究会
会議情報

セッション3:LLM応用(1)
SLMを用いた同一ドメイン参照型チャットシステムのサーバレス実装
谷岡 広樹
著者情報
会議録・要旨集 フリー

p. 54-59

詳細
抄録

本研究では,ブラウザ組込み型の小規模言語モデル(SLM: Small Language Model)を用いて,完全にサーバレスで動作する同一ドメイン参照型チャットシステムをJavaScriptのみで実装した.対象としたSLMは,Google Chromeに統合されたGemini Nanoと,Microsoft Edge Devに統合されたPhi-4-miniの2種類である.ブラウザ内で完結する簡易的なRAG (Retrieval-Augmented Generation)を構築し,kuromoji.jsによる形態素解析およびml5.js / word2vec.jsによる関連語拡張を利用して文脈検索を実現した.BCCWJ短単位語彙表の名詞・動詞上位3,000語を基にchiVe-1.2-mc90から抽出した語彙ベクトルを用いて関連語拡張し,TF-IDFスコアを計算して関連情報を取得,Prompt APIを介してSLMに入力した.評価の結果,両モデルは平均約3秒で応答を生成し,教育・FAQドメインにおいて有用な応答品質を示した.本手法は,プライバシ保護とコスト効率を両立するローカル生成AIの新たな応用可能性を示すものである.

著者関連情報
2025 この論文のすべての権利と著作権は著者に帰属します。
前の記事 次の記事
feedback
Top