指数型表現の利点の確認(6)情報幾何

  • 情報幾何では分布をパラメタを使って空間の点に対応づける
  • そしてその空間にどういう座標系を置くかがパラメタセットの取り方になる
  • また情報幾何では、「計量」と「接続」の2つが大事
  • (ちょっと怪しいのだが)フィッシャー情報行列は「計量」であるので、それがどういうパラメタセットで作られたとしても、それが測っている量は変わらない(見え方は違うけれど)
  • またフィッシャー情報行列はリーマン測度と同じこと
  • 他方、情報幾何で大事なもう1つである「接続」は、まさにパラメタセットをどう取るか、ということ(どっちの方向にパラメタの同じ値部分が続いているかと言うこと)
  • うまくパラメタセットをとると、「平坦〜場所を変わってもその座標系では接空間がずれずに続く」ようにできる
  • そのような接続の仕方はある変数\alphaで表すことにしているのだが、逆に言えば\alphaの値だけ接続の仕方がある
  • 指数型分布族での\mathbf{\theta}の取り方というのは、\alpha=1であって、かつ、そのような接続をとると「平坦」になる、という意味で、指数型分布族の情報幾何的意味での「あるべきパラメタの取り方」になっている
  • \alpha=-1での接続が、もう1つの大事な接続の取り方でもある
  • また、「平坦」の考え方と並んで、「測地線」という考え方もある。まっすぐで「(最短)距離」を示す線というイメージ
  • 今、平坦な座標系では測地線として距離を出すことができる
  • 測地線は\alpha=\pm 1の平坦な系でそれぞれ出すことができる。それを使うと、「片方の測地線のみでは距離がうまく測れなかったような2地点(2つの分布)間の距離がうまく測れたりする…」というような話にもなるらしいが、消化不良…
  • 情報幾何・微分幾何多様体の話にこちらで戻る