変傾共役勾配法によるBP学習の安定化と高速化
1995 年 46 巻 2 号 p. 152-158
詳細
1995 年 46 巻 2 号 p. 152-158
階層型ニューラルネットワークの学習法であるBP学習において, 学習速度とローカルミニマの問題がある.学習の高速化に関しては, 共役勾配法が提案されており, その高速性が明らかになっているが, 初期値依存性の問題も合わせ持つ.一方, 初期値依存性に対しては, 変傾法が提案されているが, 本質的に最急降下法であるため, 学習速度の面で改良の余地がある.そこで, 本研究では変傾法の更新を共役方向に実現する変傾共役勾配法を提案する.さらに, その挙動に癖が見られることを指摘し, この癖を利用して高速化を図った改良型変傾共役勾配法を提案し, 化学プロセスの制御問題に適用してその有効性を示す.
