2009-08-19

母関数　数列　確率分布　積率母関数　特性関数　その２

母関数

数列・確率分布における母関数がこのブログの取り扱い範囲内。このブログの取り扱い範囲外での母関数のことは（ひとまず）無視する
母関数・生成関数(Generating function)はある数値の並びを算出してくれる関数
- 有限個の数値の並びなら、ある意味で簡単。書きあげればよいから
- 無限個の数値の並び（級数）の場合、それを生成してくれるからありがたい
  - 級数(Series)は複素数の無限の並び（実数の無限の並びを含む）
生成されるもの
- (無限)数列((infinite) sequence)の場合
  - 数列それ自体
- 確率分布の場合
  - r次モーメント(rは無限に大きくなる)
  - 離散確率変数X
    - 確率母関数(probablity generatig function)の場合
      - 階乗積率(階乗モーメント)
        
        階乗積率とは、普通のモーメントが確率変数Xのべき乗の期待値( $E(X),E(X^2),E(X^3),...,E(X^r),...$ であるのに対して、 $E(X),E(X(X-1)),E(X(X-1)(X-2),...,E(X(X-1)...(X-r+1)),...$ のこと
  - 確率変数X
    - 積率母関数の場合
      - 積率(モーメント)
    - 特性関数の場合
      - 積率(モーメント)
    - 積率母関数も特性関数も積率を生成する母関数。両者の違いは、方法の違いでもあるが、積率母関数の定められない確率変数があるのに対して、特性関数は必ず定められること
    - キュミュラント母関数の場合
      - キュミュラント
母関数の作り
- 数列の場合
  - 通常型母関数
    - $A=\{a_i\}$ ; $i=0,1,2,...$ という数列がある
    - $F(x,A)=\sum_{i=0}^{\infty} a_i x^i$ という関数を与える
    - $F(x,A)$ は、 $A$ のすべての要素を係数に持つ無限個の項 $a_i x^i$ の和で表されていて、数列 $A$ 自体と比べて、何にも得した感じがないので、面白みに欠ける
    - しかしながら、もし、が無限個の項を持つ代わりに、簡単な式であらわせたら、の要素をすべて知る代わりに、その関数を知ることで、数列を捕まえたことになって、「わかった(捕まえた)」感じがする。
      - 元来、意味のある数列には、その生成規則がある(ことが多い)ので、生成規則を知ることも「わかった(捕まえた)」ことであるが、簡単な式で表された母関数を知ることは、別の面から「わかった(捕まえた)」ことというわけである
    - また、r階の微分をすると、 $a_r=\frac{d^r}{dx^r} F(x=0,A)$ の値が取り出せることもわかる
  - 数列の要素に順番にを割り当ててやった関数をここでは取り扱った。このようにの冪乗の項を作って、多項式関数化してやったので冪級数とも言う
    - 言い換えると、冪級数表現＝簡単な式表現　であるときに、冪級数の項の係数であるような数列は、この簡単な式表現を母関数としている、ということである
    - 冪級数表現した母関数を通常型母関数という
  - 通常型母関数でない母関数
    - - 冪級数表現した母関数を通常型母関数という、と定めたわけだから、別の表現をした母関数も定義できることがわかる
    - ある数列に通常型母関数が定まり、かつ、その他の母関数(指数型母関数など)が定まる
    - $\phi(x,A)=\sum_{i=0}^{\infty} a_i f(i,x)$ のように定めたものが母関数であり、 $f(i,x)=x^i$ の場合が通常型母関数であり、 $f(i,x)$ を母関数のカーネル(核関数)とも呼ぶ
    - カーネルがのような母関数を指数型母関数と呼ぶ。
      - 指数型母関数には次にしめすような特徴が有用で、そのために、確率分布の母関数として用いられている
    - その他のカーネルを持つ母関数にディリクレ母関数などがある
- 確率変数の場合
  - 通常型母関数
    - 離散確率変数の確率母関数
      - Xはi=0,1,2,...という非負の整数値をとり、その生起確率が $p_i$ , $\sum_{i=0}^{\infty} p_i=1$ とする
      - $p_i$ を数列の要素とみなして、その通常型母関数を定める。これを確率母関数と呼ぶ
      - 確率母関数のr階微分のx=0での値が $p_r$ である
      - 階乗積率を容易にもたらす関数である
        
        それは、確率母関数を $x=1$ でテイラー展開し、r階の微分を取れば、それがr階乗積率である
  - 積率母関数
    - 確率変数が連続であると、確率母関数と同じ方法は利用できない
    - 確率母関数のときに、(階乗)積率が母関数のr階微分で求められたことを思い起こせば、r(〜無限)階微分がやり易いことはよいことのようだ
    - そのような関数は指数関数であるので、 $e^{tX}$ なる関数を考える。
    - $F(t)=e^{tX}$ とすれば $\frac{d^{r}}{dt^r}F(t)=X^r e^{tX}$ であり、 $\frac{d^{r}}{dt^r}F(t=0)=X^r e^{0}=X^r$ であるから、 $E(X^r)$ (Xのr次積率)について $E(F(t))=\sum_{i=0}^{\infty} \frac{t^i}{i!}E(X^r)=E(e^{tX})$ はXの積率を生成する母関数である
    - これを「積率母関数」と呼ぶ
  - 特性関数
    - 同様の理由で、 $F(t)=e^{itX}$ と、複素数に拡張しても変わらないし、積率母関数が定められない確率変数についても特性関数ならば定まることは有用である
  - 指数型母関数
    - $F(x,A)=\sum_{i=0}^{\infty} \frac{a_i x^i}{i!}$ を(数列Aの)指数型母関数と言う
    - 上の例でみたように、確率変数Xの積率母関数と特性関数は、Xの積率に関する指数型母関数になっている
    - 言い方を変えると、次のようになる
      - ある関数が無限回微分可能で、そのx=0での値の数値列であるような数列があるとき、その関数はその数列の指数型母関数である
      - もしくは、確率分布のモーメントについて、指数型母関数を使うことは有用で、特にそれを積率母関数と呼んだり、特性関数と呼んだりする
母関数と級数・展開
- 母関数は、(無限個の項である)冪級数( $x^k$ )やテイラー級数(　 $(\frac{\frac{d^k}{dx^k}f(a)}{k!})(x-a)^k$ )に展開され、その項の係数を「生成」する
- したがって、テイラー展開のうち、特に、項の係数が整数であるようなものは、数列の指数型母関数になっていることになる
- フーリエ級数・フーリエ展開のような、周期性関数の展開にあたっては、その周期性から、そのまま母関数としての扱いに持ち込みかねる(？持ち込みにくい？）が、そこで用いる、複素平面的捉え方(が、確率変数の積率の母関数である積率母関数を特性関数に拡張するときに思い出されることである。ちなみに、テイラー展開とフーリエ展開の関係については、こんなコメントもある
  - このように，実関数だけに注目していたときには，まるで別の級数に思えたテイラー級数とフーリエ級数ですが，どちらも複素級数で r=const. と置いたり $\theta$ = const. と置くことで出て来るものだったのです．テイラー級数とフーリエ級数は，複素級数の違った切り口に過ぎないと考えることも出来るわけで，いわば複素級数というヤヌス像を私達は今まで別々な面から見ていたに過ぎないと言えるのです．実関数のテイラー展開とフーリエ展開は，全然別のもののように見えますが，実は，一つの複素級数を違った角度から見ているだけに過ぎません．
特性関数についてはこの記事も参考