非正規化モデルによる統計的推測—スコアマッチングとノイズ対照推定—

抄録

非正規化モデルとは，非正規化密度（全積分が1にならない密度）によって定義される統計モデルであり，機械学習分野ではエネルギーベースモデルとも呼ばれている．たとえば，マルコフ確率場，多様体上の分布，ボルツマンマシンなどが挙げられる．このようなモデルはデータの柔軟なモデリングを可能とするが，計算困難な規格化定数を含むために尤度に基づいた統計的推測手法を適用することは難しい．そこで，規格化定数の計算を必要としない統計的推測手法が開発されてきた．本稿では，非正規化モデルに対する代表的なパラメータ推定手法であるスコアマッチングとノイズ対照推定について説明する．情報量規準や非線形独立成分分析などの最近の発展や，縮小推定やブリッジサンプリングなどの他の統計手法との関係についても紹介する．