人工知能学会全国大会論文集
Online ISSN : 2758-7347
第34回 (2020)
セッションID: 2D4-OS-18a-05
会議情報

Posterior Collapseの情報識別可能性による解釈と条件付き相互情報量最大化を用いた対策
*阿久澤 圭岩澤 有祐松尾 豊
著者情報
会議録・要旨集 フリー

詳細
抄録

Variational Autoencoder (VAE)の訓練はposterior collapse,すなわち潜在変数がデコーダーに無視される現象にしばしば妨げられる. 本稿では,既存のVAEがしばしば仮定するデータ生成過程の情報識別不能性がposterior collapseを生じると主張する. これは,情報識別不能なデータ生成過程においては,特定の潜在変数が特定の情報を持つように設計されているのにも関わらず,他の潜在変数がその情報を期待尤度を損なうことなく獲得できてしまうためである. そして自己回帰デコーダーを持つVAEとdisentangled sequential autoencoderを例に挙げて,この解釈がposterior collapseの統一的な説明を与えることを示す. 加えて,情報識別不能性の問題を緩和するために,敵対的学習を用いた条件付き相互情報量の最大化による正則化手法を提案する. この正則化手法はモデルや潜在変数の構造を特定のものに制限する必要がない. 実験では提案手法が前述の2つのモデルにおいてposterior collapseを緩和することをRDカーブなどを用いて確認する.

著者関連情報
© 2020 一般社団法人 人工知能学会
前の記事 次の記事
feedback
Top