ラベル情報の一般化によるLaplacian Eigenmaps と Linear Discriminant Analysisの体系化

抄録

機械学習を用いた高次元データの解析には次元の呪いが生じるため，前処理として次元削減が多くの場合必要となる．教師なし学習では，類似度行列から計算されるGraph Laplacianを利用したNormalized Spectral Clusteringの前処理としてLaplacian Eigenmaps(LE)が広く知られている．また，教師あり学習のLinear Discriminant Analysis(LDA)は，既知のラベル情報から計算される郡間分散と郡内分散によって定義される分離度を最大化する次元削減と見なすことができる．本発表では，ラベル情報をクラスタへの所属確率に拡張することでLEとLDAが統一的にまとめられることを示す．両者の橋渡しとしてKernel Graph Laplacian Features(KGLF)を導出し，類似度行列の固有値の逆数がクラスタサイズに，固有ベクトルがクラスタへの所属確率になることを明らかにする．