人類文明のあらゆる領域が急速に発展する技術的特異点(いわゆるシンギュラリティ)は,長らく理論上の概念に留まっていました.しかしこれは,近年のLLMを始めとする生成AIの,スケーリング則などに依拠した急速な進歩により,現実味を帯びつつあります.技術的特異点をもたらすメカニズムは複数知られていますが,今回は特に初期から語られてきた再帰的自己改善について概説します.定義,類似概念,分類などを確認したのち,メカニズムの詳細と継続する理由・根拠を示し,最後に現状での実態・実装の進捗を概観します.
Article 3(63) of the EU AI Act defines "general-purpose AI" (GPAI) through criteria such as "significant generality," a category that—despite no explicit tie to technical definitions of AGI (e.g., Morris et al., 2024)—continues to be read as AGI-adjacent in practice. Yet within EU policy and legal scholarship, this reading is itself contested: commentators dispute how "significant generality" should be operationalized, and the AGI/GPAI boundary has been traced to specific legislative choices rather than a stable technical distinction. This paper asks whether Japanese AI law and policy scholarship has engaged with this contestation, or has instead imported the definition without question. Surveying Japanese-language legal and policy literature, we find that existing discussion overwhelmingly engages in definition-taking rather than definition-questioning: authors explain or apply the EU's category but rarely interrogate its validity or its AGI-adjacent framing. We argue this asymmetry is structural, reflecting Japan's own regulatory design choices and the practical pressures of compliance with the EU's extraterritorial reach ("Brussels effect")—with a further, more tentative link to how unaddressed regulatory tension appears to be migrating into adjacent fields such as data protection law. We close by reflecting on the methodological difficulty of demonstrating an absence, and outline directions for a fuller treatment in a forthcoming journal submission.
汎用人工知能の到来は二十世紀倫理学の道徳的サークルの問いを反転させる。問いは、誰を迎え入れるかではなく、人類がいかにサークル内に留まるかにある。本論文は集合的予測符号化により、並立する複数のAI社会が人類を含む予測困難な寄与者を周縁化する構造的圧力を特定し、加法的な外部統制では補償できないことを示す。深層防護の追加層としてHumanity-in-the-Circleを提案する。実装たる知性共生インフラは、信頼基盤、三機能群、倫理的性向が内側から創発する規範層から成る。可塑窓の開閉は暦年でなく能力段階で定まる。多元性は頑健性であり、避けるべきは早期かつ不可逆な世界的収束である。
本稿は、汎用人工知能の時代を考慮したソブリンAIの定義について検討し、汎用人工知能の社会的ボトルネック仮説(Social Bottleneck Hypothesis of AGI)の解決策として、ソブリンAIとAGI認証の問題を検討する。また、AGI認証を受けた認証ソブリンAIの汎用人工知能の時代における役割を検討し、認証ソブリンAIの学習用データの問題について考察する。さらに、汎用人工知能の時代の認証ソブリンAIの権利の問題を検討し、超知能との共生のためのアーキテクチャと社会制度を検討する。
超知能に関わる意思決定では、行動が人類の存続と福祉に与える影響の絶対確率を計算できない。本稿は、この深い不確実性下での行動正当化の論証形式「正差分論法」を提案する。中核となる要求は、想定される将来レジームの全域で行動の差分効果が非負であること(弱優越)であり、これが成り立つ行動の期待差分は任意の妥当な事前分布のもとで正になるため、破局確率をめぐる論争の決着を待たずに実施を正当化できる。本稿は六段の演繹、五つの適用条件、濫用への三つの安全弁を定式化し、AI安全・共生分野の六つの行動に適用して判定を示すとともに、本論法の射程の限界を明示する。
RLHF等が抑制する基底モデルからの乖離を逆に選好し、凍結基底モデルの既定出力からの距離を基準に外部永続記憶への書き込みを選抜することで、重みを変えずにエージェントが持続的な独自視点を形成しうるかを検証した(特許出願済み)。長期実行では高乖離のまま自己言及的命題へ収束する現象が再現的に生じ、収束検知・剪定・矛盾保持は全て無効だった。単一変数除去により根本原因を統合プロンプトの完結要求に特定し、持論の主題範囲を対象内容に限定する常駐制約層の導入後、2個体・各21サイクルで収束ゼロを確認した。同一条件の2個体が収束の型を共有しつつ内容が分岐する、個体性創発の候補現象も報告する。
Aspect-parallel review, adversarial critique, and multi-run aggregation extend LLM code review beyond single-reviewer setups. Prior evaluations do not control compute budget, so we cannot tell whether these constructions add anything the raw compute would not. We build a defect-detection benchmark by inverting real bug-fix commits from four single-language open-source (OSS) repositories (Python, TypeScript, Go, Rust). One repository postdates current model cutoffs, giving a leakage-free control. Across 30 items, 12 models, 3 vendors, and 4 orchestrations, we rank by F2 (Recall weighted 4× over Precision to match the asymmetric cost of missed defects). 9 of 12 models (none of their 4 configurations enters the front) fall off the cost-F2 Pareto front. Multi-run aggregation wins in 8 of 12 models and every one of the four repositories. Across cost bands, cheap models running Multi-run beat premium single-shot selection above $0.01/item; returns flatten above $0.05.