私の第0段階〜あらためて指数型分布族・情報幾何

  • まだ指数型分布族という名前を知らない
  • 指数分布という名前は知っているかもしれない
  • 確率分布・尤度に関しては、以下のようなことを知っている
  • 確率分布はパラメタを使った関数。積分すると1
  • 関数が分布の「様子」を決め、パラメタがその縮尺などを決める
  • 確率密度関数があると、ある値を観測する確率が計算できる
  • 逆に、ある値が観察されているときに、その確率分布に照らして、パラメタの値に関して尤度が計算できる
  • 同じ式が確率も表し、尤度も表す
  • 尤度関数という呼び方もある
  • 尤度を最大にするパラメタの値を最尤推定値と言う
  • 最尤推定値を求めるには、尤度関数の微分が0のところを探せばよい。尤度関数の対数を取って、対数尤度関数の微分が0のところを探すのもよい
  • 指数関数と対数関数がある。掛け算と足し算との関係にある。確率事象が相互に独立に起きるときは確率を掛け合わせればよい。掛け算が面倒くさければ確率の対数を足し合わせればよい