担当 : 山下 洋史
題目 : Herded Gibbs の性質とその拡張について
概要 :
Herded Gibbs (HG) は，Bornn ら [1] によって提案された，マルコフ連鎖モンテカルロ法の一種の Gibbs Sampling を決定的に行うアルゴリズムである．実用的な問題における大規模で疎なイジングモデルに対して，Herded Gibbsの性能が Gibbs Sampling を上回ることが実験的に示されている．
Eskelin は Herded Gibbs において，変数の更新の際に条件付き分布を近似することによって空間計算量を削減する Discretized Herded Gibbs (DHG) を提案した [2]．
本発表では，HG, DHG に共通する「重みの共有」というアイデアが Gibbs Sampling の収束速度と誤差に及ぼす影響を実験によって検証する．また，得られた知見を元に，DHG の改良と，Herded Gibbs の連続確率分布への拡張について検討する．
参考文献：
[1] L. Bornn, Y. Chen, N. de Freitas, M. Eskelin, J. Fang, and M. Welling. Herded gibbs sampling. In International Conference on Learning Representations (ICLR), 2013.
[2] M. Eskelin. Herded gibbs and discretized herded gibbs sampling. Master’s thesis, University of British Columbia, 2013.
