主成分回帰 Principal Component Regression (PCR)3

  • 重回帰と式の具合を比べてみよう
  • Y=XB+\epsilon
  • 重回帰
    • Y=X((X^TX)^{-1}X^TY)+\epsilon=XB+\epsilon
  • 主成分回帰
    • Y=T((T^TT)^{-1}T^TY)+\epsilon=TC+\epsilon
  • この式の比較から、重回帰でのXと、主成分回帰でのT=UD; X=UDV^Tとに違いが集約されていることがわかる