未来社会におけるAI技術には、便利さや効率の追求はもちろんのこと、個人のWell-Beingと社会の要求の変化に対応していく機能が求められる.本稿では、多様な個人の幸福を高め豊かな人中心の未来社会を実現するためにAIシステムが備えるべき3つの基本要件として、「人とAIの共進化」、共進化を支えるために人とAIが築く「継続的な改善活動」、そしてこれら取り組みが正しく機能するための「AIガバナンス/AIアライメント」の3層から成る構造を提案し、それぞれの層に求められる基本要件について検討を行う.さらに、これらの各層で重要な役割を果たし、これらの活動の受容性を向上する重要なキーワードとして「納得性」に注目し、その意味と役割について議論する.