貢献度分配を導入した方策勾配によるNeural Architecture Searchの高速化

抄録

Neural Architecture Searchが深層学習のアーキテクチャを自動的に設計するためのアプローチとして注目を集めている. 本研究では, アーキテクチャと重みを同時に最適化するone-shotアーキテクチャ探索の高速化を目的とし, 貢献度分配を導入した方策勾配による探索法を提案する. 提案手法では, 貢献度と呼ばれるアーキテクチャを構成する複数の部分それぞれに対しての報酬を定義し, これをアーキテクチャパラメータの勾配の計算に用いる. 実験で, 最近提案された勾配法によるone-shotアーキテクチャ探索の先行研究と比較し, 提案手法では同程度の精度のアーキテクチャをより高速に発見できることを示す.