LIMEを用いた画像認識モデルの評価手法の提案

抄録

画像認識モデルの評価として，精度の比較が行われることが多い．しかし，精度以外での評価手法はいまだ一般的でない．そこで，精度以外での比較手法として，画像認識モデルの予測に対してLIMEを用いて判断根拠を可視化し，その判断根拠の一致率でポイント数を求め，画像認識モデルを合計ポイント数で評価する手法を提案する．提案手法を評価するために，ImageNetの評価用データを使用して実験を行った．評価の対象となる学習済みモデルはResNet50，VGG16，InceptionV3の計3種類である．評価実験の結果，全体としては精度で順位づけした結果とポイント数で順位づけした結果では変わりはなかった．しかし，ラベルごとの評価結果はモデルによって異なることがわかった．