指数型表現の利点の確認(4)Kullback-Leibler divergence

  • KL divergence はD_{KL}(\theta_1||\theta_2) = \int_{x\in \mathcal{X}} \ln{\frac{f_{\theta_1}(x)}{f_{\theta_2}(x)}}f_{\theta_1}(x) dx
  • この式も指数型表現で扱うとハンドリングが楽であり、この差を残差と捉えて残差の最小化などの扱いが楽になる