深層ニューラルネットワーク(Deep Neural Network, DNN) を用いた機械学習は身近になった. 様々なノウハウが集積されているが,DNN は未だブラックボックスであり,その本質的なメカニズムの解明は非常に興味深い問題である. 機械学習の理論的考察は情報統計力学の重要な課題であり,実はガラスを含むランダム系の統計力学とのつながりが深い. 我々は最近,あるプロトタイプのDNN による機械学習の統計力学的理論を構築した. またこのDNN のアンサンブルをモンテカルロ法によってランダムサンプリングし,重要な巨視的観測量を統計力学的に解析した. 解析の結果,このDNN 内部において学習が空間的に極めて不均一に起こっていることがわかってきた.
抄録全体を表示