指数型表現の利点の確認(3)の2次微分と分散共分散行列/Hessianと半正定置と凸関数

  • 上の例では、\thetaを単変数っぽく扱っていたが、多変数の場合も
    • \frac{\partial A(\mathbf{\theta})}{\partial \eta_i} = E(T_i(x))であるし
    • \frac{\partial^2 A(\mathbf{\theta})}{\partial \eta_i \partial \eta_j}は分散共分散行列の成分になる
    • この2次の微分が作る行列はHessianだが、それが半正定値なので、A(\mathbf{\theta})は凸関数となる