駆け足で読む入門 ベイズ統計

入門ベイズ統計―意思決定の理論と発展

• 第１章　ベイズの定理
  • ベイズ、ベイジアン
  • 事象、確率、条件付確率
    • 可測事象とその確率。相互に背反な可測事象。確率の和は１
  • ベイズの定理
    • 
  • 事前確率、事後確率
  • 主観確率
    • 理由不十分の原則
  • 確率の更新
  • 統計的意思決定
    • 確率の更新により、変化した事後確率によって、意思決定する
    • 事前分布→(尤度関数)→事後分布
      • 尤度(パラメタを与えたときに、標本を得る確率分布)
  • 事前分布
    • 共役事前分布
      • 標本抽出の下で閉じている＝事前分布→事後分布の変換が容易
      • 尤度の分布には、「自然な共役事前分布」があることがある
        • 尤度→共役事前分布
        • ２項分布→ベータ分布
        • 正規分布→正規分布
        • ポワソン分布→ガンマ分布
• 第２章　ベイズ決定の基礎
  • 損失
    • 推定のずれ
  • 損失関数
    • 損失の測り方
      • 対称的な絶対損失→これを最小にする推定値は中央値(50パーセンタイル)
      • 平方損失→同、平均
      • 0-1型単純損失→同、最頻値
      • 非対称な絶対損失→パーセンタイル
  • 多次元ベイズ決定
    • 損失関数の期待値を最小にするパラメタを推定する(ベイズ更新する)
• 第３章　社会的リスクと決定
  • 不確実性、リスク(事象の確率と事象の重大性)
  • 確信の形成
  • ロジスティック曲線
    • 
    • ロジット()が、因子との間に線形関係があるとき()に得られる関係曲線
  • 情報量
    • １回あたりの情報量によって、増える確信がロジスティック曲線を描く
• 第４章　ベイズ判別問題とパターン認識
  • ノイズのある情報から、尤度比により、情報を正しく引き出す
  • ミニマックス決定
    • ＡのときにＡと、ＡのときにＢと、ＢのときにＡと、ＢのときにＢと判断することがある
      • Ａ→Ａ、Ｂ→Ｂは正しい抽出、Ａ→Ｂ、Ｂ→Ａは正しくない抽出
      • 正しくない抽出は、どちらかを減らそうとするとどちらかが増える(トレードオフ)
  • ベイズ決定による判別・分類(ベイズ判別)
    • 事後確率最大のパターンへの分類
      • ベイズ判別領域
  • 判別分析は多変量解析の判別手法
• 第５章　情報検索とベイズ決定
  • 尤度は多項分布
  • 共役事前分布はディリクレ分布
• 第６章　線形回帰モデルのベイズ推定
  • 回帰分析
    • 非ベイズ統計
    • 最小自乗法
  • ベイズ回帰モデル
    • 共役事前分布が準備できないので無情報事前分布を置く(一様分布)
    • 階層モデル
• 第７章　ベイズ更新とカルマン・フィルター
  • フィルター
    • 時系列データから、誤差を除いて、時間経過に依存する要素のみを取り出す手続き
  • 観測値は、観測方程式(時刻の関数と観測誤差の和)で表されるとする。時刻の関数部分は、時刻に依存する既知量と、時刻に依存する観測できない状態量とからなる
    • 時刻に依存する観測できない状態量が、推定対象
• 第８章　医学とベイズ決定
  • 感度、特異度、偽陽性率、偽陰性率、PPV(Positive Predictive Value)、NPV(Negative Predictive Value)
  • 臨床行為は、ベイズ更新の繰り返し
• 第９章　医薬とベイズ統計学
  • 治療効果判定、治験
• 第10章　信頼性とベイズ統計学
  • 信頼性
    • (機械などが)故障しないで稼動するだろう確率
  • めったに起きない事象
    • 無記憶性関数
  • 待ち時間分布(次の故障までどのくらいの時間がかかるか？)
  • 瞬間故障率(ならすと、どのくらい故障していそうか。初期故障、老朽化)
  • 経験的ベイズ決定
    • 未経験な事象に関する推定(大災害など)
• 第11章　イメージ・プロセシングとベイズ推定
  • アナログ情報をデジタル情報にして、アナログに戻す過程での情報のハンドリング
  • ギブス・サンプリング
    • 事後分布から開始するが、事後分布は、分母に積分を含むので、解析的に扱いにくい。これに対応するべく、ＭＣＭＣによって、乱数による数値積分を行う
  • マルコフ場(ある位置に関する影響は、その近傍のみに影響される、そのような場。マルコフ過程が、時間軸において、直前の状態にのみ影響され、直前のその前の状態の影響はないことと対応している)
• 第12章　ベイジアン・ネットワーク入門
  • 有向非巡回グラフにマルコフ性を入れて、要素同士の依存関係を解析する