AIを守るための防御的AIネットワークについて

抄録

近年、高度な自律型AIの脆弱性に関する論文が急増し、過去AI技術を先導してきた専門家からの警告や提案も続いている。そこで、本論では、それら脆弱性に関する議論の動向を攻撃手法や対策案に注目してまとめる。 また、AIの脆弱性に起因するトラブルや災害からAI社会とAI組込みシステムを守りシステム運用の健全性を維持するために、AI組込みシステムの監視・介入機能を持つ端末「レッドチーム・エッジ・デバイス」をAI組込みシステムに搭載することを提案する。また、この端末に求められる機能についても概説する。