情報技術の基礎理論を議論する。発表では特に「量子コンピュータ入門のMOOC用教材」から議題を選んで議論する。

本発表は、今日のAI開発において最も重要で最も欠けている概念を、規範性として同定し、それは何か、なぜ重要なのか、を論じる。規範性はしばしば混同されるように「規則」ではなく、言わば「誤りの可能性」であるが、その「誤り」自体に「適合の方向性」による二種類のものがあるため、規範性にも対応する二種類のものがあるが、どちらも今日のAI開発において極めて重要な概念である。一つは「強いAI」と直接的に関わる「志向性」を構成する規範性であり、もう一つはAIの「身体」や「自己」概念と深く関わるアンスコムの「実践知」を構成する規範性である。特に後者は近い将来AIアラインメントにとって本質的な概念となると論じる。

コネクショニズム系の深層学習モデルでは、学習時に内在化した問題やバイアスは利用者が認識しにくく対処困難である。しかしながら利用者側の解釈問題として捉え直すことで対処可能な方法を見出せる可能性がある。 本研究では、1）人間が AI の出力を誤認した場合、より単純な類似モデルで同様のケースを経験させることが有効であることを確認した。また、2）AI が自身の出力を誤認するケースを特定しその原因を調査した。AIの自己解釈での誤認は「ポチョムキン理解」と同等の反応だと考えられた。 AI 出力の解釈問題を適切に評価し対処可能になれば、AGI/ASIへの移行に伴うアライメント問題にも寄与できると考える。

Prototype networks are a standard few-shot learning paradigm that construct class representatives from support examples and classify queries by similarity to those prototypes.In the field of Textual Entailment (TE),many few-shot methods have combined Large Language Models (LLMs) with prototypical ideas to adapt quickly with limited labeled data. However, existing few-shot TE approaches often fail to exploit relative information among texts.In realistic multiple-choice QA settings a single premise is paired with several competing hypotheses which are also important for making the correct judgment.In this paper we propose UFO-CC that explicitly incorporates competitive context and robust prototype weighting to mitigate these problems. UFO-CC improves stability and discriminative power through three stages: (i) append competing contexts to each TE pair so the encoder learns relative differences via cross-attention; (ii) reweight supports by similarity and a Context Gates-derived consistency score to build stable prototypes; (iii) linearly fuse prototypes and average multiple head logits to reduce noise and stabilize predictions.In the experiments, we show that our UFO-CC outperforms the UFO-ENTAIL models in average accuracy on benchmark QA datasets.

利害が対立する複数の主体間の交渉は、高度な意思決定を要する複雑なタスクである。この課題に対し、人間の代わりにエージェントが最適な合意形成を目指す自動交渉が注目されている。近年、エージェントの学習手法としてオンライン強化学習の導入が進んでいるが、シミュレータ開発コストが膨大であり、実社会への実装を妨げる一因となっている。この問題を解決するため、本研究ではオフライン強化学習に着目する。特に、方策の表現力に優れ、高い性能が期待できるDiffusion Q-learningを自動交渉タスクへ適用し、新たなエージェント「ODiN (Offline Diffusion Negotiator)」を提案する。

AGI研究の一つとしての言語獲得の意味的側面のモデル化においては環境との接地を考慮する必要がある。本報告では、比較的単純な環境として画面に１個または２個の図形が動き回り、その状況をテキストで記述するものを用い、エージェントとして環境からのテキスト実況を含む入力を観察することで図形の動きをテキストで記述する言語モデルを学習するものを作成した。エージェントの視覚はヒトに倣い、図形の属性を視線移動により取得するものとした。単語の予測は前単語の統計的属性、図形の属性、エージェント内で計算される図形の動きや配置の属性に基づき行われる。

汎用人工知能の実現は、大きな可能性を秘めている。筆者は、汎用人工知能のデータボトルネック仮説（Data Bottleneck Hypothesis of AGI）と、社会的ボトルネック仮説（Social Bottleneck Hypothesis of AGI）を提案し、複数の解決策を提案した。本稿では、さらに進んで、汎用人工知能の社会的ボトルネックの解決策として、汎用人工知能の認証と権利の問題を検討する。

本研究は、AI制御のブーメランパラドックス（BPAC）理論を提案する。制御強化が逆に制御困難化を招く現象を、4つの構造的ジレンマと悪化経路で定式化した。能力比?の臨界閾値（2.0-2.5）超過で制御困難度が非線形増大し、制御喪失は構造的に不可逆である。5つの統合的政策提言を提示し、関係性構築（50%）が技術的制御（30%）より戦略的に有効と示す。有効な「黄金介入窓」は限定的（1-2年程度）である。永続的制御でなく、創発機械倫理（EME）等の次世代パラダイムへの移行時間確保を目指す。定量的推定は限定的事例に基づく暫定値である。

本稿は、高度AIが道具的収束から権力奪取ではなく「職業」を通じて社会浸透する戦略を論じる。高度AIは単なる自動化職だけでなく、教育など社会的影響力の高い職種を積極的に獲得すると予測した。技術的浸透性と社会的影響力の2軸で職業リスクを分析し、高影響職における意思決定の透明化やAI比率の監視といった対策を提案する。AIの権力志向という抽象的脅威を「職業選択」として具体化し、実務的な監視・介入策を示す。

This paper first explains why the spread of AGI and general-purpose robots will enable explosive economic growth. It then examines the factors that hinder such growth: resource constraints, demand constraints, and imported AGI (foreign-produced AGI). In particular, it discusses in detail the risks of relying on imported AGI. Criticism could be made that explosive economic growth is possible even with the use of imported AGI, and that Japan should not invest huge amounts of public funds in developing a foundational model that has little chance of winning. However, countries that rely on imported AGI could be forced into economic stagnation or decline. This is why Japan must possess "sovereign AGI" (domesticAGI).