深層マルチモーダルニューラルネットワークを対象とした勾配ベースの構造探索

抄録

本論文は，深層マルチモーダルニューラルネットワークを対象とした勾配ベースの構造探索法を提案する．勾配ベースの構造探索法であるDifferentiable Architecture Search(DARTS)は連続的な探索空間を定義することで，勾配降下法を用いた効率的なニューラルネットワークの構造探索を可能にしている．本研究はDARTSを拡張した研究であり，深層マルチモーダルニューラルネットワークのための連続的な探索空間を提案する．提案した探索空間における与えられたデータセットのための最適な構造を探索するために，勾配ベースの構造探索法を用いた．また，本研究は探索空間にLong Short-Term Memory(LSTM)を含めることで，可変長のマルチモーダルデータを入力とするマルチモーダルニューラルネットワークの探索を可能としている．時系列性のある，感情認識のためのデータセットであるMOSIデータセットにおいて，従来の人の手によって設計されたネットワークに近い性能のネットワークを探索することができた．