極値理論を用いた顕著な畳み込みフィルターの発見

抄録

顕著性マップは、深層学習モデルの挙動を視覚的に理解するのに役立つため、研究者から注目されてきた。しかし、これらのマップは必ずしも画像の誤分類につながるピクセルを反映しているとは限らない。本研究では、パラメータ空間に着目してこの問題に取り組み、極値理論に基づいてCNN内の誤動作している畳み込みフィルタを特定するアルゴリズムを提案する。本手法の数学的な理解を述べるとともに、本アルゴリズムの有効性を示す実験結果を報告する。