オンライン学習におけるデータ適応的正則化手法

抄録

大規模データから省メモリかつ高速に学習を行う手法として，L1正則化付きオンライン学習アルゴリズムが複数提案されている．しかし，これらの既存手法は予測に有用であっても出現頻度の低い特徴をモデルから排除してしまう性質があった． 本研究では，低頻度かつ予測に有用な特徴を予測モデルに動的に組み込める新たな正則化手法を提案する．さらに，本手法の理論解析と実験による評価を行い，本正則化手法の有用性を示す．