人間の環世界から見たエージェントモデル –AI Safety の実現に向けて

抄録

機械学習によって行動獲得するエージェントによる意思決定の不透明性が、AI Safetyを実現する上での障害となっている。しかし、人間とエージェントの間に存在する観測空間・行動空間・報酬・時間の違いが、人間によるエージェントの理解を難しくしている。そこで本稿では、人間からはエージェントの振る舞いがどのように理解されるのか、をモデル化した「人間の環世界から見たエージェントモデル」を提案する。