確率的結合をもつNeural Networkと自由エネルギー原理による誤差伝搬の提案

抄録

本稿では、確率的に結合されるNerual Netowrkのモデルと自由エネルギー原理による勾配計算法を提案する。Neural Netowrkには順方向伝搬の定義とともに誤差の逆伝搬が定義される。両伝搬において、モデルの入力から出力まで同期的に計算を行う必要があり、深い層を定義した場合に計算の非局所性が保たれないという問題がある。つまり、脳の解剖学的特徴を再現しない、計算ハードウェアの構成が厳しいという問題がある。提案するモデルは、伝搬を分離し、細胞に蓄えられたエネルギーを伝搬させることで両方向への伝搬を行うことでこれら問題を解決する。数値実験により動作を確かめた結果を報告する。