非線形回帰モデルと不均衡データに対するModel Inversion Attackの考察

抄録

これまでのモデル反転攻撃（MI攻撃）研究は、事前情報なしでは実行困難な回帰モデルへの攻撃や、データポイズニングを利用した手法など、特定の環境下でしか適用できない制限があった。そこで本研究では、より一般的なAIサービスにおける潜在的な危険性を明らかにするため、攻撃者が学習データの一部を知らなくても回帰モデルにMI攻撃を仕掛けられる新たな脆弱性を調査した。評価実験として、精度と速度に優れるLightGBMを学習モデルに採用し、特定のクラスに偏ったデータセットを使用して出力結果への影響を想定した。さらに、Optunaライブラリを用いて自動調整を行い、入力ごとに異なる学習結果を生成する予測モデルを導入した。この提案した攻撃シナリオにより、特定の条件下でMI攻撃が成功する可能性を示すとともに、MI攻撃に対する学習モデルの安全性について考察した。