護岸ひび割れ画像の特徴量分布とKLダイバージェンスによる中間層出力の分析

抄録

機械学習において標準化や正則化といった入力データのスケーリングは一般的な手法であり、スケーリングによって入力データの分布の差を軽減することができる。またニューラルネットワークの多くで導入されるBatch Normalizationは畳み込み後の特徴量の分布をスケーリングさせる目的を持つ。一般にBN層の出力は活性化関数による非線形変換が行われるため、Batch Normalization層を経た特徴量の分布は特徴量の伝播に寄与し、ニューラルネットワークの精度に大きな影響を与えると予測される。 本研究では護岸のひび割れsegmentationをテーマに、確率分布の差を測る指標であるKLダイバージェンスを用いてBatch Normalization層出力を評価し、入力画像の特徴量分布とKLダイバージェンスとの関係性を分析する。