文法変分自己符号化器を用いた機能を融合する発達型人工神経回路網開発

抄録

従来の深層学習では，特定のタスクに対する学習によって得られたネットワークトポロジーを異なるタスクに対して転用する際，ファインチューニングや転移学習のように，新規タスクに最も適合が期待される単一の学習済みモデルを基礎とする．一方で生物はそれまでに獲得した複数の経験を抽象化し，知識として新たなタスクに適応することができる．これを実現するためには，獲得するネットワーク構造において，特定の機能を持つネットワークトポロジーの融合を可能にするアーキテクチャが必要となる．このことから，本研究ではネットワークの結合荷重ではなくトポロジーを進化的に獲得するWeight Agnostic Neural Networks (WANN)と離散データを構文木で表し，エンコード・デコードを行うGrammar Variational Autoencoder (GVAE) を基盤技術とし，既に獲得した機能のトポロジーの潜在表現から複数の機能を融合した新たな機能を持つ構造を復元する，発達型人工神経回路網（Developmental Artificial Neural Networks, DANNs）の開発を行う．