桁数

コンピュータの計算誤差について【基本情報】

浮動小数点を用いた計算ではどうしても誤差が発生します．この誤差を考慮してプログラムを組まないと思ってもみない計算結果になり事故の原因となります．この記事ではどのような誤差に気をつけなければならないか紹介します．

javaで数値の計算を行うときに計算結果がずれる経験はないだろうか．int型とint型の足し算や引き算はうまくいくのに，doble型の計算を行うとずれる場合がある．本記事ではその原因の解説と，BigDecimalを用いた正しい計算方法を解説する．