認識サービスの運用：認識器クローンに対する防御法

抄録

近年，情報通信分野の技術革新に伴って，画像認識機能を提供するクラウドサービスが登場しつつある．一方で，そのようなサービスに対し多数の画像を送信して認識結果を取得し，その両者を教師情報として新たな認識器を構築するretraining attack（RA）とよばれる攻撃の危険性が指摘されている．われわれはRAにより構築された認識器を「認識器クローン」とよび，この問題への対処法を検討してきた．本稿では，その内容を簡単に紹介する．具体的には，認識器クローンの構築防止法として「故意誤り」を，構築が防げなかった場合に備えての認識器クローンの検知指標として「認識結果特性」を，それぞれ提案する．本稿で紹介する手法はまだ研究途上のものであるが，ある程度の有効性が実験により示さ