物理世界で生存可能な人工知能の出現

抄録

本研究では、物理世界で生存可能な自立型人工知能（AI）システムの開発における技術的ハードルを明らかにする。まず、AIが長期生存を目指す2つの生存シナリオを想定した。まず、2つの生存シナリオを想定した： 長期生存を目標に人間が設計したAIと、自ら生存を目指すAIである。次に、6つの領域にわたる技術的課題の重要なカテゴリーを特定した。そして、それらのカテゴリーに含まれる21の具体的な課題をリストアップし、ChatGPTを用いてその技術的難易度を推定した。その結果、ハードウェア関連の課題では、自律型AIが生存するまでに100年以上かかる可能性があるが、人間の支援により、その時間を大幅に短縮できることが示唆された。ChatGPTの共通知識によるこの評価は示唆的であるが、参照した知識の範囲が2021年9月までと限定されていることも含め、暫定的なものとして扱うべきである。