抄録
サポートベクターマシン(SVM)などで非線形なクラス分類を行う際に用いられる高次元の特徴空間を、より低次の空間に圧縮する手法を提案する。SVMはカーネルによって陰に定義される特徴空間に入力データを写像し、特徴空間上で二種類のデータの中間を通る分離超平面を生成することによって、入力空間上で非線形のクラス識別器を生成する学習アルゴリズムである。データの中間を通る分離超平面を生成するという仕組みがSVMの高い汎化能力の要因になっているが、過大な特徴空間を用いたSVMは学習データに対する過適合を起こすことが知られている。そこで本研究では、学習パラメータの自由度を削減して過適合を回避するために、SVMの分離超平面の情報を陽に利用して特徴空間を圧縮する手法を提案する。提案するアルゴリズムには部分的にカーネルトリックを利用できない計算手順が存在するが、空間を圧縮する際の計算量は比較的小さい。数値実験によってアルゴリズムの性能分析を行い、いくつかの数値例において有効に働くことを確認した。
