第39回 (2025)
セッションID: 1Win4-18
会議情報
主催: 一般社団法人 人工知能学会
会議名: 2025年度人工知能学会全国大会（第39回）
回次: 39
開催地: 大阪国際会議場＋オンライン
開催日: 2025/05/27 - 2025/05/30
言語モデルにおける知識の既知性判断の内部表象
詳細
主催: 一般社団法人 人工知能学会
会議名: 2025年度人工知能学会全国大会（第39回）
回次: 39
開催地: 大阪国際会議場＋オンライン
開催日: 2025/05/27 - 2025/05/30
言語モデル（LM）の知識獲得能力は広く研究されているが，獲得した知識の既知性に関する判断機序については十分な理解が得られていない．本研究ではLMを用いて，特定の知識に対する出力生成時と既知性判断時の内部状態を比較分析した．結果として，言語モデルが実際に既知性判断を行う能力を持ち得ることが示され，（1）知識を学習した時点で，既知性を判断するための情報が内部表現中に存在すること，（2）既知と判断される知識と未知と判断される知識において，LMがそれぞれ異なる活性化パターンを示すことを明らかにした．これらの知見は，LMの既知性判断メカニズムの理解へ向けた手がかりを提供する．
