Minimum-variance unbiased estimator

  • Wiki記事(英語)を抄訳・意訳しておく
  • パラメタ\thetaで表される確率分布があるとする。その\theta\Omegaなるパラメタの広がりを持つとする。
  • そこからのiid標本がえられ他と気に、それを使って、\thetaの関数となる何か(g(\theta)の値を推定したいとする。
  • 何かを推定するときに、どんなに頑張っても(標本数を多くしても)、真の分布に基づくそれ(真の\thetaに基づくそれ)でないような何か簡略な推定をするのではなく(たとえば、線形関係にないのに、線形回帰をしてお茶を濁すのは、簡略な推定)、完璧な推定をするのが、unbiased estimationだが、それをするとする。そんなunbiased estimationをするのに複数の関数が取れるとする。それを\hat{\delta}(X_1,X_2,...)としたする。
  • 推定では簡略にすると、標本セットを変えても推定結果がそれほどぶれず、きちんとすると、標本セットごとに推定結果がぶれるわけだが、そのぶれをvar(\hat{\delta}(X_i))と書く。このぶれの大きさを最小にするような\delta(X_i)はどんなものか、しかもそのぶれが小さくなるのは、\thetaがどんな値になっている場合にも成り立つときの\delta(X_i)はどんなものか、という話
  • 確率分布が指数族のときには、指数分布表現をしてやると、そこに「十分統計量」というものが現れてくることは知られているが、この十分統計量によって表される量であって、しかも、それが、g(\theta)のunbiased estimatorになっている(簡略推定ではなくてフル推定)とき、その\delta(X_i)が、(uniformly) minimum-variance unbiased estimator (UMVUE) だよ、という話。