担当 : 井上 彰
題目 : echo state networkによる時系列データ予測
概要 :
リカレントニューラルネットワーク(RNN)はサイクルを持つニューラルネットワークのことでより簡単な構造を持つフィードフォワードニューラルネットワークと比べその訓練は著しく難しい. しかしRNNは時系列データ等, 順番のあるデータに強くまた短期記憶も可能であることからその研究は多くなされてきた.
echo state networkもRNNの一つであり出力層→中間層の結合荷重のみを学習の対象とすることで計算量を大きく減らしたことに特徴がある. またecho state networkでの学習は誤差逆伝播法などのような勾配法的な手法ではなく構造をブラックボックスにしたままでの計算であるが注目される. 本発表ではエノン写像の予測問題を題材にecho state networkを紹介するとともにこれまで提案されてきたいくつかの手法[1]を比較検討する.
[1] Rodan, Ali. Architectural designs of Echo State Network. Diss. University of Birmingham, 2012.