機械学習とセキュリティは異なる分野で独立に発展してきた技術である．各技術の有用性と社会的重要性が高まるにつれ，両者を融合したクロスオーバーの領域が盛んに研究されるようになった．それらの研究は(A) 「機械学習を用いた防御技術」，(B) 「機械学習を用いた攻撃技術」，(C) 「機械学習アルゴリズムに対する攻撃・防御技術」の3 つのテーマに大別することができる．(A) は比較的古くから研究がなされてきているが，(B) と (C) は比較的新しい研究領域であり，攻撃技術を対象とすることに大きな特徴がある．本稿では特に (B) と (C)，すなわち機械学習と「オフェンシブセキュリティ」に関わる研究領域に焦点を当て，各領域の概略と具体的な研究事例を解説する．

抄録全体を表示

近年，金融分野においては，AI（artificial intelligence），とりわけ，機械学習を金融サービスや金融機関の業務に活用する動きが活発となっている．金融サービスでの利用としては，例えば，顧客応答，信用度評価等が代表的なものとして挙げられる．こうした機械学習の活用にあたっては，機械学習を実装する情報システムにおけるセキュリティ上のリスクを適切に評価し，それが許容できるレベルを上回っていると判断される場合には，リスクを低減するための対応を検討することが必要である．機械学習を実装するシステムは通常の情報システムの1 つとしてリスクの評価や対応を検討することになるが，機械学習特有の脆弱性によるリスクにも留意することが求められる．例えば，判定・予測エンジンの大量の入出力から訓練用のデータを推定しうるほか，人間の目では検知困難なノイズが付加された判定・予測用のデータに関して，判定・予測結果が有意に変化しうるなどの事例が報告されている．本稿では，こうした脆弱性に焦点を当てつつ，金融サービスに活用するAI のシステム，特に，機械学習を実装するシステムのモデル例を取り上げ，そのセキュリティ・マネジメントの方針や課題について解説する．

抄録全体を表示