駆け足で読む入門 ベイズ統計

入門ベイズ統計―意思決定の理論と発展

入門ベイズ統計―意思決定の理論と発展

  • 第1章 ベイズの定理
    • ベイズベイジアン
    • 事象、確率、条件付確率
      • 可測事象とその確率。相互に背反な可測事象。確率の和は1
    • ベイズの定理
      • P(E_i|F)=\frac{P(E_i)P(F|E_i)}{\sum P(E_i)P(F|E_i)}
    • 事前確率、事後確率
    • 主観確率
      • 理由不十分の原則
    • 確率の更新
    • 統計的意思決定
      • 確率の更新により、変化した事後確率によって、意思決定する
      • 事前分布→(尤度関数)→事後分布
        • 尤度(パラメタを与えたときに、標本を得る確率分布)
    • 事前分布
      • 共役事前分布
        • 標本抽出の下で閉じている=事前分布→事後分布の変換が容易
        • 尤度の分布には、「自然な共役事前分布」があることがある
          • 尤度→共役事前分布
          • 2項分布→ベータ分布
          • 正規分布正規分布
          • ポワソン分布→ガンマ分布
  • 第2章 ベイズ決定の基礎
    • 損失
      • 推定のずれ
    • 損失関数
      • 損失の測り方
        • 対称的な絶対損失→これを最小にする推定値は中央値(50パーセンタイル)
        • 平方損失→同、平均
        • 0-1型単純損失→同、最頻値
        • 非対称な絶対損失→パーセンタイル
    • 多次元ベイズ決定
      • 損失関数の期待値を最小にするパラメタを推定する(ベイズ更新する)
  • 第3章 社会的リスクと決定
    • 不確実性、リスク(事象の確率と事象の重大性)
    • 確信の形成
    • ロジスティック曲線
      • y=\frac{1}{1+e^{-(ax+b)}}
      • ロジット(\frac{y}{1-y})が、因子xとの間に線形関係があるとき(log(\frac{y}{1-y}=ax+b)に得られる関係曲線
    • 情報量
      • 1回あたりの情報量によって、増える確信がロジスティック曲線を描く
  • 第4章 ベイズ判別問題とパターン認識
    • ノイズのある情報から、尤度比により、情報を正しく引き出す
    • ミニマックス決定
      • AのときにAと、AのときにBと、BのときにAと、BのときにBと判断することがある
        • A→A、B→Bは正しい抽出、A→B、B→Aは正しくない抽出
        • 正しくない抽出は、どちらかを減らそうとするとどちらかが増える(トレードオフ)
    • ベイズ決定による判別・分類(ベイズ判別)
      • 事後確率最大のパターンへの分類
    • 判別分析は多変量解析の判別手法
  • 第5章 情報検索とベイズ決定
    • 尤度は多項分布
    • 共役事前分布はディリクレ分布
  • 第6章 線形回帰モデルのベイズ推定
    • 回帰分析
    • ベイズ回帰モデル
      • 共役事前分布が準備できないので無情報事前分布を置く(一様分布)
      • 階層モデル
  • 第7章 ベイズ更新とカルマン・フィルター
    • フィルター
      • 時系列データから、誤差を除いて、時間経過に依存する要素のみを取り出す手続き
    • 観測値は、観測方程式(時刻の関数と観測誤差の和)で表されるとする。時刻の関数部分は、時刻に依存する既知量と、時刻に依存する観測できない状態量とからなる
      • 時刻に依存する観測できない状態量が、推定対象
  • 第8章 医学とベイズ決定
  • 第9章 医薬とベイズ統計学
    • 治療効果判定、治験
  • 第10章 信頼性とベイズ統計学
    • 信頼性
      • (機械などが)故障しないで稼動するだろう確率
    • めったに起きない事象
      • 無記憶性関数
    • 待ち時間分布(次の故障までどのくらいの時間がかかるか?)
    • 瞬間故障率(ならすと、どのくらい故障していそうか。初期故障、老朽化)
    • 経験的ベイズ決定
      • 未経験な事象に関する推定(大災害など)
  • 第11章 イメージ・プロセシングとベイズ推定
    • アナログ情報をデジタル情報にして、アナログに戻す過程での情報のハンドリング
    • ギブス・サンプリング
      • 事後分布から開始するが、事後分布は、分母に積分を含むので、解析的に扱いにくい。これに対応するべく、MCMCによって、乱数による数値積分を行う
    • マルコフ場(ある位置に関する影響は、その近傍のみに影響される、そのような場。マルコフ過程が、時間軸において、直前の状態にのみ影響され、直前のその前の状態の影響はないことと対応している)
  • 第12章 ベイジアン・ネットワーク入門
    • 有向非巡回グラフにマルコフ性を入れて、要素同士の依存関係を解析する