敵対的攻撃にセキュアな連合学習プラットフォームの実装

抄録

近年、深層学習による人工知能を活用したシステムがさまざまな分野で活躍している。深層学習には多くのデータが必要であるため、他者と協力してデータ収集することも考えられる。しかし、人工知能を協調的に開発し、安全に活用する上で、以下の3つの課題が存在する。第1の課題は、プライバシー保護の観点から生じる「データ集約の困難性」である。第2に、各クライアント間で画像への正解ラベル付与の精度や基準が異なり、学習に悪影響を及ぼす「ラベル付けの品質管理」の課題がある。そして第3の課題が、モデルの誤認識を誘発する攻撃、「敵対的サンプル（AE）への脆弱性」である。これらの課題はモデル開発における深刻な障壁であるため、筆者らは、これまで連合学習にVirtual Adversarial Training (VAT)を統合した新しいセキュアな学習プラットフォームの設計・開発を行い、このプラットフォームを提案してきた。本研究では、このプラットフォームで開発したモデルの敵対的頑健性を定量的に評価する。評価実験により、本手法が大きな性能低下を伴うことなく、これらすべての課題を解決できる可能性を明らかにした。