Fisher情報量と正単体と球

  • dカテゴリの多項分布のフィッシャー情報量を考える
  • \sum_{i=1}^{d} p_i=1
  • \sum_{i=1}^{d} y_i^2=1;y_i^2=p_iとなる
  • これは、d次元空間にあるd-1次元多様体としての球(ただし、すべての成分が0以上である象限のみ)
  • この球はユークリッド空間にあり、球面上の点には、普通の計量(ユークリッド計量)が入れられる
  • 実は、dカテゴリの尤度関数から作るフィッシャー計量(対数尤度関数と尤度(確率)とを使って作るもの)は、\sum_{i=1}^d dy_i^2という超簡単な計量に対応している
  • この\sum_{i=1}^d dy_i^2という計量は、y_i^2=p_iという変数変換をした上でのフィッシャー計量ではなく、ユークリッド空間の計量ということ。尤度関数とかその期待値とかそうい宇面倒くさいものではない
  • この「球面」が多項事象の「一番素直で一様を定義しやすい多様体
  • \frac{1}{\theta(1-\theta)}というのは\frac{1}{p_1 p_2}のことで、この分母は、二項分布の場合の「量(面積)」相当のもの
  • また、pが0,1に近いところでpriorが大きいというのは、(p_1,p_2)->(y_1,y_2)という変換をしたときに、0,1に近いところがびよーんと伸びていることと対応する(らしい)