一般化蔵本振動子を用いたニューラルネットワーク

抄録

ニューラルネットワークと脳科学の両分野では，ニューロン間の「バインディング（結合）」が競合学習を促し，表現を圧縮することで深い層へ行くほど抽象的な概念が形成されることが古くから知られている．また近年では，時空間的表現が脳・人工知能の両方で重要な役割を果たす仮説も提唱されている．本研究ではこれらの知見を土台に，Artificial Kuramoto Oscillatory Neurons（AKOrN）を導入する．AKOrNは従来のしきい値型ユニットに代わる動的同期に基づいた人工ニューロンモデルであり，全結合・局所畳み込み・アテンションなど任意の接続設計と組み合わせ可能である．提案手法を用いて，教師なしの物体検出，敵対的頑健性，不確実性推定，推論能力など幅広いタスクで性能向上を確認した．これらの結果は，ニューラルネットワークの最も基礎的なレベル―すなわち「ニューロンモデル」―における前提を再考し，動的表現の重要性を示すものである．再現コードはこちらにて公開：https://github.com/autonomousvision/akorn.