桁数

コンピュータの計算誤差について【基本情報】

浮動小数点を用いた計算ではどうしても誤差が発生します.この誤差を考慮してプログラムを組まないと思ってもみない計算結果になり事故の原因となります.この記事ではどのような誤差に気をつけなければならないか紹介します.

続きを読む