2008-02-01から1日間の記事一覧

数値の精度

コンピュータによる数値計算における精度のこと。 浮動小数点のことなどあり、計算結果に誤差が出る話し。Mathematicaを用いて計算していたところ、任意精度という概念を採用していることはこちらに書いた。Mathematicaはを『1を3等分したもの』という形で…