下記論文にある,latent process decompositionのためのcollapsed変分ベイズ推定について,ガウス分布による近似のところをのぞいて,式の導出を解説した文書を書きました.ここをクリックしてください.
Yiming Ying, Peng Li and Colin Campbell. A marginalized variational bayesian approach to the analysis of array data. BMC Proceedings 2008, 2(Suppl 4):S7. [2009/03/27 追記] 大学のWebサーバ,メールサーバが移転のため休止中です.上記の私が作成した解説文書は,間違いがあったので修正しました.新しいバージョンは,Webサーバが復活し次第,アップします. また,実装も終えて,wineデータセットについて,ほぼ上掲論文通りのlower boundが得られました.推察するに,上掲論文では,ディリクレ事前分布のハイパーパラメータ\alphaを1.0にしているようです.また,上掲論文にはないですが,ガンマ事前分布のハイパーパラメータb_0は簡単に最適化できるので,やってみたら,ほんの少しだけlower boundを大きくできました.さらに,トピック数を変えて,収束後のlower boundを見てみると,3のところで,確かに最大の値が得られます.これで,上掲論文にあるとおり,モデル選択もできそうです.ディリクレ過程とか高級な技を使わなくても,ね.
by tmasada2
| 2009-03-25 13:15
| らららルルル
|
カテゴリ
以前の記事
2009年 04月 2009年 03月 2009年 02月 2009年 01月 2008年 12月 2008年 11月 2008年 10月 2008年 09月 2008年 08月 2008年 07月 2008年 06月 2008年 05月 2008年 04月 2008年 03月 2008年 02月 2008年 01月 2007年 12月 2007年 11月 2007年 10月 2007年 09月 2007年 08月 2007年 07月 2007年 06月 2007年 05月 2007年 04月 2007年 02月 2007年 01月 2006年 12月 2006年 11月 2006年 10月 2006年 09月 2006年 08月 2006年 07月 2006年 06月 2006年 05月 2006年 04月 2006年 03月 2006年 02月 2006年 01月 2005年 12月 2005年 11月 2005年 10月 2005年 09月 2005年 08月 2005年 07月 2005年 06月 2005年 05月 2005年 03月 2005年 02月 2005年 01月 2004年 12月 その他のジャンル
検索
ファン
記事ランキング
ブログジャンル
画像一覧
|
ファン申請 |
||