数理最適ソルバを用いたテキスト判別モデルの検証

抄録

予測精度の高いニューラルネットワークモデル (NNモデル) であっても、入力データに微小なノイズ (摂動) が加わることによって予測が変わってしまうことがある。摂動の存在により、NNモデルをテキスト判別や機械翻訳などに用いた場合に問題が起きる可能性がある。このようなリスクを減らすためには、摂動に対してNNモデルがどれだけ頑健かを調べておくとよい。画像を入力としたNNモデルの頑健性を数理最適ソルバを用いて正確に調べる手法が提案されており、この手法をNNモデルの検証と呼ぶ。一方で、テキストを入力とした場合には、文字や単語が離散的であることから摂動の定義が難しい。そこで、本研究では単語埋め込みによる実数ベクトルを入力とすることで画像と同様の摂動を定義し、NNモデルの検証を行う手法を提案する。加えて、検証手法の妥当性を調べる実験を行ったところ、頑健さの異なる複数のモデルと本検証手法の間には相関が得られた。