- 確率や尤度、事前確率などについて説明する機会があった
- お話し風
- 事前確率と事後確率について質問を受けた
- 尤度比の計算にあって、「事前確率」を考慮するためにどうするか、という設問がスタートだった
- 事前確率と事後確率の間にある「事」は「情報」をもたらす
「情報」がないときの確率
「情報」が来た
「情報」を取り入れた上での確率
- 「尤度比」は、「尤度」の比だ
- 比は、2つのものの割り算の結果だから、
- 「尤度」の比には、2つの尤度がある
- さて、用語の整理をしよう
- まず、「確率」と「尤度」
- 尤度というのは、見方を変えた確率
- 見方を変える、というのはこういうこと
「下駄を10回投げたら」
表の出た回数が、
0,1,2,3,…,10
のいずれかになると予想されます。
その予想が確率です。
下駄を1回投げたときに、表が出る確率pが与えられれば、計算もできます。
あり得るすべての場合について、「確率」を足し合わせると1になるのがルールです。
さて、下駄の表が出る確率pを、僕らは知りません。
実際、pは誰も知りません。
では、pがいくつなのかを予想することにします。
下駄を10回投げたら、8回が表だったそうです。
さて、ここでpを予想したいのです。
choose(10,8) * p^8 * (1-p)^2 = choose(10,8) p^8(1-p)^2
pの関数
f(p)=C p^8 (1-p)^2
と書けます。
Cは定数です。
pは0から1の値を取りますから、水平軸にpを取って、f(p)のグラフを描くこと
を考えます。
f(0)=0
f(1)=0
です。
さて、どこが一番高くなるでしょうか?
一番、高いところは、「極値」ですから、1次微分が0になるはずです。
したがって、f(p)=8p^7(1-p)^2+(-2)p^8(1-p)=2p^7(1-p)(4(1-p)-p)=2p^7(1-p)
(4-5p)=0
f'(p)=0を満足するのは、0,4/5,1のときです
実際y=f(p)を描くと、p=4/5=0.8のときにピークが来て、極値であり、最大値で
あることもわかります。
したがって、p(表が出る確率)は0.8と予測するのが良いでしょう。
- pのいろいろな値について、あるデータ(10回投げて8回表)を観測する確率を考えた
- このように、「観測」を固定したときに考えた「確率」が尤度
- なので、「尤度」の計算と「確率」の計算は、『まったく同じ』
「表が0.8の確率で出る下駄を10回投げたら、表が9回出る『確率』と表が7回出る『確率』はどちらが大きいか」
という質問では『確率』という言葉を使う
「下駄を10回投げたら、8回表だった。さて、この下駄について「表が0.7の確率で出やすい」という『仮説(仮説1)』と「表が0.9の確率で出やすい」という『仮説(仮説2)』とでは、どちらの尤度が大きいか」
という質問では、仮説の「」の中では「確率」だが、「計算する」のは「尤度」
- ちなみに、10回投げて8回表だったときに、この下駄の表の出る確率を0.8だろうと思うのは、「表の出る確率の最尤推定値は0.8」である、ということを「大雑把に」言っている
- 「下駄の表の出る確率」は0.1かもしれないし、0.3かもしれないし、0.3462654...かもしれないのだが、あえて「一つだけ」の数字で答えなさい、しかも、その数字は「最も」「尤もらしい」数字で答えなさい、と言われたので、「0.8」と答えることになる
- 今、下駄が9個あるとします。
- 全部、袋に入っていて、形も色も重さも何にもわからないとします。
- 友達の下駄がその中に1つあります。
- 友達からは、「その下駄は、女もので、投げると表が出やすくて、表の出る確率は0.8なの」と聞いていたとする
- どうすればよいでしょうか?
- この段階で選ぶには、「えい」と1つを選ぶしかなく、当たる確率は1/9
- これが、「pre」の確率
- 「情報」はゼロなので、「post」の確率も1/9と変わりません。
- ここで、「9個の下駄、投げてもいいよ」と言われたらどうでしょうか?
- 9個の下駄を投げてみればよいでしょう
- 1回ずつ投げたんでは、困ります、「たくさん」投げて、「表が0.8のときに出そうな表裏具合」の下駄を友達のために持って帰るのが良いでしょう
- こうして「どの下駄が表0.8」っぽいかを判断するための情報を得た後で、友達に持ち帰る下駄を選ぶとよいでしょう
- この「実験」の後に9個の下駄のどれがどれくらい「重みがあるか」が「post」な確率です。
- 条件が変わりました
- 袋の中をのぞいてもよいことになりました
- 実際にのぞいてみると、9個の下駄は女物が6個、男物が3個だったとします
- そうしたら、「全部の下駄」を投げるのはやめにして、
- 「6個の女物」のみをまず選び、「3個の男物」は問題外にします
- そして、「6個」を投げます
- 選ばれた「6個の女物」の「pre」の確率は1/6で、「3個の男物」の「pre」は0です。
- 実は、友達は、「その下駄はね、かなり古いの」とも言っていました
- 「かなり古い」のです
- 6個の女物の下駄を見ると、全部が中古品でした
- とはいえ、「古びた感じ」で並べることができそうで、「友達がかなり古い」と言いそうなのは、古い順に並べた、2,3番目が一番それっぽく、1番は古すぎ、4,5,6番は新しすぎるように思いましたが、はっきりとは言い切れません
- なので、古い順から1,2,3,4,5,6の下駄に重みをつけて
0.6, 1, 1, 0.7, 0.4, 0.3
- としようかと思いました
- 「pre」の確率にすると、全体が1でないと困るので、
0.6+1+1+0.7+0.4+0.3=4
0.6/4, 1/4, 1/4, 0.7/4, 0.4/4, 0.3/4
- この6個の女物の中古の下駄を投げて、その結果を勘案して「post」な尤度を出します。