Fixation index F(Population subdivisionにおける)

• 次の仮説に基づく、Fixationの指標(subdivisionの指標とも言える)
  
  • ランダムメイティング集団ではHWEが成り立っている。Subdivisionが起きると、Subdivided亜集団内ではHWEが成り立つが、遺伝的浮動のため、亜集団のアレル頻度に差が生じる。極端な場合には、片やアレル頻度１、片やアレル頻度０となる。この１ vs. ０の状態を"Fixed"とみなし、Subdivision前のHWE状態に０となり、Fixedな状態で１となる指標がFixation indexである。Fixation indexの算出にあたっては、標本Heterozygosity()と標本アレル頻度から計算したHWE仮定におけるHeterozygosity()を用いて、と表せる。
• Fixation indexと共分散(従属関係を表す項)の関係
  
  • 今、標本Heterozygosity 、アレル頻度 p としたとき、AA個体の比率は、aa個体の比率は、Aa個体の比率はである。HWE検定の項で、subdivisionが存在するときに成立することを示した式を同様にAAについて書き換えるととなる。HomozygosityはHWE仮定より大きくなるのでとしてある。
  • 今、ANOVAへのイントロとして、ある指標を導入する。は、アレルAを持つときに１、アレルaを持つときに０を与えることとし、２つのアレルを取り上げたときには、として、AAのときに１、それ以外のときには０となるような指標であるものとする。(１つを取り出すときにAをうる確率はpで、そのときポイント１を取得し、aをうる確率は1-pで、そのときはポイント０を獲得するから)のように、指標の期待値である。また、の期待値は、 であることに注意するとである。今、２つの染色体を取り出すときに、第１アレルの取り出しと第２アレルの取り出しが互いに独立であるとき、→となる確率は ただし であるけれど、第１アレルと第２アレルとが独立でないとき(subdivisionが存在するとき)には、である
  • 再掲するが、である。また、である。
  • 実は、上述の２因子の従属関係を示す指標は共分散であり、と書き表すのが通例である。また、相関係数なる関係がある。
  • 今、Fixation indexを式変形すると、なる関係にあることがわかる