子どもの言語獲得過程を模倣する試みはこれまで長らく取り組まれており，これは言語モデル (LM) の効率化にも寄与し得る．特に，言語学や認知科学の分野では，言語獲得のメカニズムを明らかにするために，子どもがある文法規則を過剰に適用することで生じる誤り（例：writeの過去形として wroted を用いる）が広く研究されてきた．既存研究は，言語獲得における一般化を語形の変化を直接学習することにより分析してきたが，これは子どもの言語獲得環境としては不自然であるという課題があった．本論文では，より自然な設定として，親が子どもに向けて話す発話で言語モデルを学習し，現存のLMがどの程度子どものような学習曲線や誤りの傾向を自然に再現するかを検証した．さらに，モデルアーキテクチャ，データ，およびトークナイザの違いによる影響を調査した．その結果，既存のLMは一部の動詞において子どもに類似したU字型の学習曲線を明確に示したが，誤りの種類の傾向は子どもにおける観察結果と完全には一致しなかった．

大規模言語モデルの進展に伴い対話システムが広く利用され始めており，人間との創造的な共同作業を可能にすることで対話システムのさらなる普及が期待される．しかしながら，ユーザと創造的な共同作業を行う対話システムに関する研究は少ない．そこで，本研究では，創造的な共同作業を行う対話システム構築のための基礎データとして，2名の作業者がテキストチャットを通じてキャッチコピーを協力して作成する782対話からなるコーパスを構築した．構築したコーパスの分析により，キャッチコピー共同作成タスクを対象とした創造的共同作業では問いかけと意見の表明と肯定が中心的な役割を果たし，相手の評価・認識の確認，感謝の表現，肯定的な評価の表現，自己の理解の表出，合意を求める表現が重要であることを明らかにした．また，作成されたキャッチコピーに対する自己評価と第三者評価には相関が乏しく，キャッチコピー共同作成タスクを対象とした創造的共同作業の評価は多元的であり，対話システム構築時には作業者の満足度と成果物の質の両方を考慮する必要があることを示した．

This paper proposes a similarity-based grading system for handwritten answers to short-answer descriptive questions in Japanese workbooks. Whereas previous studies have predominantly focused on models trained specifically for individual questions, this study utilised a similarity-based approach in which both the student’s answer and the model answer were input into the model, allowing it to learn the semantic differences between them. This approach enables the model to handle multiple questions within a single training session, thereby improving the grading accuracy even with a limited dataset and allowing the system to effectively score answers to unseen questions. We utilised three types of foundational models: a Japanese pretrained BERT model, a Japanese pretrained Sentence-BERT model, and GPT models. For the training and evaluation, answer data from Japanese workbooks used by junior high school students were employed. In addition, we conducted grading experiments using automatically recognised transcriptions generated by a handwriting recognition system and manually transcribed answers. The results showed that, although the grading performance was slightly higher for manually transcribed answers, training the model on automatically transcribed data allowed it to score automatically transcribed answers at a comparable level. No statistically significant differences were observed between the two transcription types.

近年，大規模言語モデル (LLM) の発展に伴い，LLMの暗記についての研究が進められている．GPTのようなLLMは，膨大なテキストデータで事前学習を行う過程で，一部の訓練例をそのまま暗記し，出力として再現してしまう現象が知られている．このような現象は，プライバシーや倫理面で問題となりうるため，安全なモデル運用を目指すうえで，与えられたテキストがあるLLM内でどの程度強く暗記されているか，その暗記度を定量的に評価することが求められている．既存の多くの手法では，テキストに対して特定の長さのプロンプトのみで暗記度を計算しており，プロンプト長の影響で値が変化するという欠点がある．一方，多数のプロンプトを利用してより正確な暗記度を計算する手法も存在するが，そちらでは多大な計算コストが発生する．本研究では，LLMが暗記しているテキストの暗記度を，テキスト全体を入力としたときのLLM内部の値を利用して，より正確にかつ高速に求める手法を提案する．具体的には，LLMの各内部モジュールの出力を特徴量として分類モデルと回帰モデルを構築し，推定性能の分析を行った．実験の結果，従来の方法のようなコストの高い計算を必要とせずに，暗記の判定および暗記度を高速に推定することができた．また，各モジュールごとの特徴量の分析を行った結果，最終層のAttentionの出力に暗記に関する情報が強くエンコーディングされている可能性が示唆された．

Semantic frame resources, such as FrameNet, rely on high-quality definition sentences to help humans intuitively understand the meaning of frames. Although recent research has focused on the automatic induction of semantic frames from large text corpora, the generation of frame definitions remains a task that requires high-level expertise and is costly. In this paper, we propose a novel approach to automatically generate frame definitions from clusters of frame-evoking words and their associated exemplars. Our approach leverages large language models (LLMs) to produce precise and coherent definitions, effectively reducing the manual effort required for this task. We found that traditional evaluation metrics often fall short in accurately assessing the quality of generated definitions. To overcome this challenge, we introduce an LLM-based evaluation framework that incorporates human annotations to identify the most effective evaluation prompts. Our experimental results show that in-context learning (ICL) can enhance the quality of the generated definitions. Moreover, incorporating contextually similar demonstrations within the ICL framework leads to further performance gains.

本研究では，『比喩表現の理論と分類』で報告されている結合比喩（表現を構成している要素の関係が，文字が持つ慣用的な用法から著しくずれた比喩表現）を対象に，字義表現と基本義表現のそれぞれをアノテーションし作成したデータセットに対して，比喩表現検出モデルの性能評価を行った．著者のアノテーションにより，5,792件の結合比喩に対する字義表現と基本義表現のアノテーションが完了した．5分割交差検定に基づいてデータセットを評価した結果，言語学的な比喩表現の抽出手法に動機づけられたBERTモデル (BasicBERT) が，文全体の類似度に基づいて分類を行うBERTモデル (Sentence-BERT) よりも，高性能であることを確認した．

フレーズグラウンディングを含むマルチモーダル参照解析は，メンションと実世界の物体との間に存在する参照関係を特定する課題である．画像とそのキャプションを対象としたフレーズグラウンディングは，確立された課題として広く研究されてきた．しかし，実世界でユーザと協働する対話システムでは，指示詞や省略といった対話特有の参照の曖昧性を，マルチモーダル参照解析の枠組みで適切に処理することが重要である．この問題に対処するため本研究では，メンション埋め込みと物体特徴の類似度にもとづいて参照先を選択することにより，共参照解析や述語項構造解析といったテキスト間参照解析とマルチモーダル参照解析を統合するフレームワークを提案する．実験では，テキスト参照解析の学習が，マルチモーダル参照解析の性能向上に寄与することを示した．特に，指示詞に対するフレーズグラウンディングにおいて，共参照解析を学習に組み込むことで，このタスクの代表的なモデルを上回る性能を達成した．定性評価により，テキスト間参照関係を学習に取り入れると，指示詞や述語を含むメンションと物体の間の確信度が強まることを示した．さらに，テキスト間参照関係の学習前後におけるメンション埋め込みに関する分析により，実験で観察された性能向上や確信度上昇の要因の一部を明らかにした．

本研究では，医療用語を患者が理解しやすい表現に言い換える医療テキスト平易化のためのパラレルコーパスを構築し，公開する．医師によって記述される医療文書には専門用語が多く含まれるため，非専門家である患者はその情報を有効活用できない場合がある．そのため，医療用語を用いずに入力文を言い換える医療テキスト平易化が社会的に強く望まれているが，英語以外の言語では研究が進んでいない．この問題に対処するために，オンライン医学辞典における専門家向けおよび一般向けの記事対に対して自動的な文アライメントを実施し，ドイツ語・英語・スペイン語・フランス語・イタリア語・日本語・ポルトガル語・ロシア語・中国語の9言語でそれぞれ1万文対規模の医療テキスト平易化パラレルコーパスを構築した．

Transformer に基づく大規模言語モデルは高い生成性能を示す一方で，事前学習時に設定された最大系列長を超える入力に対しては，位置符号化の制約により性能が低下するという課題を抱えている．既存の位置符号化手法の多くは，コサイン関数やサイン関数に基づく固定的な周期構造を用いており，系列長やスケールの変化に対する柔軟性に限界がある．そこで，本研究では，位置符号化を信号解析の観点から再解釈し，時間領域とスケール領域の両方で情報を扱えるウェーブレットを位置表現に組み込む手法を検討する．代表的な相対位置符号化手法にウェーブレットを導入して分析を行った結果，RPE にウェーブレットを組み込むことで外挿性能が向上する一方，ALiBi では同様の効果が得られないことが明らかになった．本研究は，位置符号化を周波数・スケールの観点から捉え直すことで，長文外挿に適した位置表現設計の指針を与えるものである．

In second-language education, learners are often asked to translate short sentences from their first language (L1) into a second language (L2) in sentence translation exercises (STEs). Teachers often have question-specific analytic criteria (e.g., required expressions or grammar items) aligned with learning objectives when grading STEs. However, providing criterion-level scores is burdensome in practice, which can discourage teachers from assigning STEs and limit their use in classrooms. To address this challenge, we formalize STE scoring as an analytic automated scoring task and validate this formulation through a comprehensive investigation. We introduce a Japanese-English STE dataset with 21 questions and 3,498 student responses and evaluate BERT-based models and large language models (LLMs). To reflect realistic classroom settings, we investigate limited-training-data scenarios using a two-phase training framework from prior work on Short Answer Scoring (SAS). Our experiments show that LLM-based models achieve human-level scoring performance on correct responses with only 10 labeled examples. For incorrect responses, they obtain the performance of the same models using a naive training method with substantially fewer labeled examples, yet still fall slightly below human-level performance; closing this gap for diverse incorrect responses remains a key challenge for this task.

従来の音声感情認識分野では学習と評価が同一ドメインで行われるクローズドドメインの場合がほとんどであった．クローズドドメインでは汎用性が無く対象ドメインが変わるごとにモデルを学習する必要がある．異なるドメインのコーパスを用いるクロスドメインの場合，音響環境が異なるため音響特徴のみによる認識では大幅に性能が低下する．一方言語情報は音響情報ほどにはドメインの違いの影響を受けにくいため，クロスドメインにおいてもより頑健なシステムの構築が期待できる．本研究では言語特徴を利用することによりクロスドメインにおける日本語音声感情認識の精度向上を図った．実験では，学習データには，比較的小規模であるJapanese Twitter-based emotional speech (JTES) のみを使用し，認識ドメインとしてはオンラインゲームチャットコーパス (OGVC) の自発対話音声を用いた．音響特徴と言語特徴の後期融合により，クロスドメインかつ自発音声という難度の高い認識対象においても認識精度向上が可能であることを示した．

Improving the performance of neural machine translation for low-resource languages is challenging due to the limited availability of parallel corpora. However, recently available large language models (LLM) have demonstrated superior performance in various natural language processing tasks, including translation. In this work, we propose to incorporate an LLM into a machine translation (MT) model as a prior distribution to leverage its translation capabilities. The LLM acts as a teacher, instructing the student MT model about the target language. We conducted an experiment in four language pairs: English ⇔ German and English ⇔ Hindi by limiting the amount of training data to simulate a low-resource setting. This resulted in improved BLEU and COMET scores.

Multi-vector retrieval models, such as ColBERT, provide strong retrieval effectiveness by representing each document with a sequence of contextualized token embeddings. This representation is expressive, but it also introduces a substantial index footprint because one vector must traditionally be retained for each document token. We introduce Token Pooling, a simple index-time compression method that clusters token embeddings within each document and replaces them with their mean representation. The method is training-free, requires no model or query-time modification, and is evaluated here on textual and visual late-interaction models. Across standard retrieval benchmarks, we show that hierarchical Token Pooling can reduce ColBERT-style index sizes by approximately 45–50% while largely preserving nDCG@10, and that it remains compatible with aggressive 2-bit PLAID quantization. We further showcase the method’s potential as a general compression interface for late-interaction retrieval by extending the same operation to visual document retrieval, where document pages are represented as sets of patch-level embeddings, and demonstrate similarly strong index size reductions with minimal degradation. Overall, Token Pooling is a competitive, model-agnostic method that can compete with learned compression methods in the settings evaluated, while serving as a useful deployment primitive for both textual and multimodal multi-vector retrieval.

日本の法令体系は階層構造を取っており，法令文では，自身より形式的効力の低い法令に対し詳細事項の規定を委ねるという方式が多用されている．このように，上位法令が下位法令に詳細規定を委任することを法令間の委任関係という．委任関係を含む法令の読解においては，詳細規定を定める下位法令を頻繁に確認しながら条文を解釈する必要があるため，読み手の負担が大きい．そのため，委任関係を即時に確認可能にして読み手を補助する仕組みの整備が求められている．しかし，委任関係のアノテーションを人手で行うには，広範な法的専門知識の習得，委任元及び委任先となりうる多数の法令・条文の精査，新規法令や改正法令に対する継続的対応などが必要であり，大きな作業負荷が生じる．そこで本研究では，委任関係の自動特定により人手アノテーションの負荷軽減を試みる．本稿では，委任関係を示すキーワードの抽出と，各キーワードに対応する委任先条文の特定という二段階のパイプラインシステムを構築し，委任関係候補を自動的に抽出する．具体的には，固有表現抽出タスクとして委任関係キーワード抽出を行うモデルと，エンティティ曖昧性解消タスクとして委任先を特定するモデルを作成する．実験の結果，人手アノテーション支援の用途においては十分なモデル性能を達成した．

LLMs excel at well-known table-based question answering (Table QA) benchmarks, yet their ability to reason over multi-entity time-series tables, common in economics and the social sciences, remains underexplored. We present METSQA, a benchmark of approximately 46,000 QA pairs constructed from synthetic and public multi-entity time-series tables. METSQA varies across five table factors: size, shape, value orientation, timestamp temporal order, and numeric scale (digits). The benchmark encompasses ten numerical operations and their combinations, enabling fine-grained, factorized evaluation. Using established prompting protocols, we evaluate seven proprietary models and three open-weight models. Our results show that, within the factor ranges tested, accuracy is most sensitive to table size and also declines with larger numeric values, while temporal factors have more localized, model-dependent effects. Aggregation is the most challenging operation, while performance on other operations varies across models. Beyond serving as a fair testbed, METSQA points to concrete research directions, including scale robust planning and improved aggregation reasoning for multi-entity time-series QA.

Multimodal continual instruction tuning (MCIT) typically relies on attaching task-specific LoRA modules to solve catastrophic forgetting, yet sequentially growing LoRA parameters often suffer from capacity allocation and inter-task interference as tasks accumulate. Recent studies extended LoRA to the frequency domain to improve capacity allocation, but ignored task-specific subspaces that can be reused and integrated across tasks. As a result, subspaces remain redundant and underutilized in long and complex task sequences. To address these issues, we propose a Continual FreQuency LoRA (CFQ-LoRA). Specifically, we introduce a lightweight policy to reuse the similar LoRA subspace, improving scalability while maintaining strong retention under long task sequences. We also adopt input-dependent weights to aggregate and integrate existing task-specific LoRA subspaces for task-agnostic inference and improving subspace utilization. Experiments on two MCIT benchmarks show that our method consistent gains over state-of-the-art methods.

外国人被告人が公正な裁判を受ける権利を保障するためには法廷通訳人の存在が不可欠であるが，その人数は年々減少傾向にあり，また，国家資格が存在しないことから通訳の質の保証にも課題がある．本研究では，大規模言語モデル (LLM) を用いた法廷通訳および，検証通訳（法廷通訳人の通訳内容を検証する立場の通訳人）の実現可能性を検証する．具体的には，法廷通訳能力の検証を目的とした新たなデータセットを構築し，LLM による機械翻訳文を既存の評価指標を基盤として法廷通訳に適合するよう構成した評価指標に基づいて法廷通訳人が人手評価することで，LLM が法廷通訳として利用可能かを検証した．さらに，人手評価結果と LLM-as-a-Judge による評価結果を比較することで，LLM が検証通訳として機能し得るかを検討した．実験の結果，GPT-4oによる訳文は人手評価の平均スコアが77%～86%であり，他のシステムと比較して高い言語等価性を維持できることが確認された．一方で，法律用語や疑問文の訳出誤り，日本の司法制度に関する知識不足といった課題も明らかとなった．また，人手評価と LLM-as-a-Judge による評価との相関係数はほぼ全ての設定で0.4未満に留まり，現段階では LLM を検証通訳として用いることの困難さが示された．

意味フレーム推定において，マスク型言語モデルを用いた高性能な手法が提案されている．一方，生成型言語モデルは多くの意味理解タスクにおける有用性が報告されているにもかかわらず，これまで意味フレーム推定には応用されてこなかった．そこで本研究では，生成型言語モデルに基づく新たな意味フレーム推定手法を提案する．具体的には，生成型言語モデルを用いてフレーム埋め込みを効果的に獲得するためのプロンプトベースの手法であるFrameEOLを提案し，英語と日本語を対象とした実験を通して，深層距離学習もしくは文脈内学習による最適化を行った提案手法の有効性を示す．特にリソースに限りのある日本語において，わずか5つの訓練事例のみを用いた提案手法が，1,000件以上の事例で訓練された既存手法と同等の性能を達成することを示す．

培地とは，植物や微生物の培養に用いられる養分などを含む液状または固形の物質のことである．植物等の培養において，最適な培地を用いることは重要であり，その探索のためには多くの培地組成を収集する必要がある．しかし，大量の論文の中から培地組成の情報を獲得する作業は時間的コストが大きく，最適培地探索の研究を阻害する一因となっている．そこで本研究では，大量の論文からの培地改良に関する論文の特定，および，改良された培地の組成情報の抽出の自動化に取り組んだ．本論文では，論文プールが与えられた場合に培地改良論文が上位にくるようにランキングするシステムを構築し，性能を検証した結果，および，GPT-4oを用いて培地改良論文から組成情報を抽出するシステムを構築し，入力形式による性能や傾向の差異を分析した結果を報告する．

視覚障害者は，スクリーンリーダーを用いてテキストを音声で読み上げて内容を理解するが，読みの曖昧さが誤読を引き起こし，テキストの理解に深刻な影響を与えることがある．特に日本語には，同じ漢字表記でも読みが異なる同形異音語が多数存在する．本技術資料では，第一著者が視覚障害当事者として日本語の漢字読み推定の研究を促進すべく，既存の（音声）言語資源を活用して，テキスト中の漢字に振り仮名を付与した大規模日本語振り仮名注釈付きコーパスを構築したのでその内容を報告する．まず，第一の構築方法では，国立国会図書館の書誌タイトルや青空文庫の本文とその点字など，読みが人手で与えられたテキストをもとに，形態素解析器の辞書を読み辞書に用いたパターンマッチによって，漢字に振り仮名を付与したコーパスを構築した．得られたコーパスを用いて同形異音語の読みの分布を分析し，その実態を明らかにするとともに，事前学習済みBERTや大規模言語モデルGeminiに基づく読み推定を行った．次に，コーパスの大規模化・多様化を視野に入れ，第二の構築方法として，青空文庫の本文とその音声読み上げデータ（音声デイジー）をもとに，音声データに対する音声認識を行い，各単語とその認識結果に共通する読みを手掛かりに用いて漢字への読み付与を試みた．得られたコーパスの注釈精度を，第一の構築方法で得た読みを正解とみなして評価した．以上の実験・評価を通し，第一の構築方法，第二の構築方法，いずれも有効性が確認された．