2013-12-03から1日間の記事一覧

James Stein 推定から非線形Shrinkageへ

複数の観測があるときに、それぞれの観測値の真値推定をするにあたり、観測値そのものにするより、「複数の観察を眺め渡して、そのばらつき・広がりより、少しきゅっと縮めた」値にしておく方がよいことが示せる その「きゅっと縮める」ことをShrinkageと言…

相互に関連した乱数

n個の正規乱数が、平均はすべて0で、covariance matrix に従って得られるとき、地道に自分で作れば、適当な正の正方行列を作って、その固有値分解をして正規直交基底方向の拡大縮小成分と回転成分とに分けておき、多次元標準正規乱数から拡大縮小と回転とを…

条件付期待値

関連する事項として以下、確認 条件付期待値(Wiki記事) 参考文献 以下の例でやってみよう Xは平均0、分散の正規分布に従っている。このXを観測誤差Z(ただし、平均0、分散の正規分布に従う)を伴ってYと観察するとする Yを観測した下でのXの期待値がであるとい…

Wienerフィルタ、カーネル法、スムージング

上記は、正規分布を仮定してそれにWienerフィルタをかませること。それはスペクトル分解して、その「主だったもの」を取り出すこと。そしてそれは正規分布の場合には全観測点をにらみあわせたときの最適推定になっていること。正規分布でないときには、最小…

すかすかなこと、と、神に託された不等式

これの続き こちらがPDF まだうまく読めるかどうかわからないので、ひとまず登場する用語をメモ 調和解析,フーリエ変換,ウェーブレット変換,推定,James Stein推定,Sparcity,Oracle inequalities,逆問題,時系列解析,Besov space,ウェーブレット縮退 Karhunen-…

周期性と巡回行列

周期性というのは時間に関して、時刻間の差によって観察値の違い(ばらつき)が規定され、その時刻の差は周期のmoduloとして定められる者と言える 時刻ごとの観察を変数として並べ、それらの関係を分散共分散行列として表すと、その行列は巡回行列になる Rで作…