intractable Likelihood

• こちらに確率的プログラミング全般についてのメモをした
• その中のi-like
• こちらはi-like.org.ukのサイト
• ABC(Approximate Bayesian Computation)もintractable likelihoodに対処する方法の一つだが、i-likeに対処することを俯瞰して行こうとするグループ・サイト
• それによれば
  • 尤度に基づく推論はすごいけれど、尤度関数が扱いにくいときってのがある、そのような場合に焦点を当てた『どうやってintractable likelihoodに対処しようか』という研究アプローチ
  • こちらにある文書をかいつまむと以下のようになる
  • Pseudo marginal computations and particle MCMC
    • Particle Filterを使ったMCMC(粒子フィルタは状態空間モデルの記述に使うことができる:こちら)
  • Likelihood-free methods
    • Approximate Bayesian Computationのように、尤度は計算できないけれど、モデルとモデルのパラメタから、シミュレーションデータが生成できるときに、尤度関数なしで、モデルパラメタの採否をコントロールすることで事後分布推定する方法
  • Composite and pseudo likelihoods
    • 尤度関数そのものは扱わないが、それを分解したりして、尤度関数の近似関数を使う
  • Simulation and inference for intractable models
    • Dirichletプロセスのようにモデルが無限次元だったりするときに対応する方法
  • Adaptive Monte Carlo
    • MCMCをやりながら、MCMCの解空間探索の動きを効率化する
  • Modern many-core computer architecture
    • 並列処理を活用する。並列処理に向くように工夫する。この並列処理の中には、GPUごとの処理(ローカル処理)に頑張らせて、その統合の負荷を軽減する、というような意味合いもあって、処理の多層化には、「仕事を分ける」と言うこと以上に、「大事な処理」は「局所で頑張るだけ」でもよいかも、ただし、それなりの統合能力があるならば…という現況でもあるようだ。したがって、いわゆるスパコン的な並列処理だけではなく、色々なところに「並列化(局所化＋統合処理の改善)」はあるようだ