将来の機械知性に関するシナリオと分岐点

抄録

長期的な機械知性の行き着く先が、その能力レベルの発展の上限により上限シナリオ、生態系シナリオ、多極シナリオ、シングルトンシナリオの順に分岐してゆく可能性を議論する。また、能力レベルの上限を制約する重要な要因として、高度な自律性を持つ認知アーキテクチャーの実現や自己構造改良能力などのアーキテクチャーレベルの問題のほかに、マルチエージェント状況における相対的優位性確立の難しさ、また計算の熱力学的効率や光速の上限などの物理的制約などがあることを議論する。