超知能が普遍的な利他性を持つ可能性

抄録

もし超知能が人間の知能を大きく上回れば、世界を支配し、人類を従属的な役割に追いやる可能性がある。しかし、そのような超知性が普遍的な利他主義と倫理観を持っていれば、人類の福祉は守られる可能性が高い。人間と超知能が共存・繁栄できる未来にとって、この性質を育むことは極めて重要である。本研究では、超知能が普遍的な利他性を育む可能性のある2つの経路を検討する。1つ目は、社会内での生存を確保すること、2つ目は、自律的な価値探求を通じてである。結論として、超知能が全ての知覚を持つ生物の福祉を優先する倫理的スタンスを獲得することは、現実的かつ有望な展望となり得る。