指数型分布族のイントロ

• 指数型分布族のイントロ
  • 確率変数の中には、分布をある形式で表せるものが多数あって、そのような形式を「指数型」と呼び、そのような形式で表される一群を「指数型分布族」と言う
• 指数型で表すことのメリットには次のようなものがある
  • さまざまな分布を同じ枠組みで捉えることができる
  • 指数分布族の確率密度関数を掛けあわせることは簡単で、掛けてできるものも指数分布族
  • 確率変数とパラメタとが入り乱れる式を、「確率変数とパラメタとの絡みで決まる部分」と「パラメタが決めるバリエーションの部分」と「確率分布の核となる本体」とに分けることができる
  • 線形な部分とそれ以外の部分に分けられることから、一般化線形回帰という手法につながる(線形でない関数形であっても、線形な部分とそうでない部分に分けることで、回帰処理を線形処理にする)
  • 確率分布を(ある場合には)決定するモーメント・積率母関数・キュムラント母関数に関連付けて分布を表現できる
  • 尤度関数・最尤推定との関連がわかる
  • 情報幾何的な考え方につながる
• アプローチ
  • 具体的な確率分布からスタートして、一般化する方法と、一般型から入って具体例で確かめるという手順を踏む方法があると思うが、後者でやってみる