浮動小数点

2024.01.07

コンピュータの計算誤差について【基本情報】

浮動小数点を用いた計算ではどうしても誤差が発生します．この誤差を考慮してプログラムを組まないと思ってもみない計算結果になり事故の原因となります．この記事ではどのような誤差に気をつけなければならないか紹介します．

続きを読む

2023.05.02

浮動小数点の表現規格とその変換方法【IEEE754】

コンピュータで浮動小数点を扱う場合，さまざまな表現で記載することができる．この表現方法を統一するためにIEEE754という規格がある．

続きを読む

2023.02.12

誤差を出さない！BigDecimalを使って計算を行おう！【Java】

javaで数値の計算を行うときに計算結果がずれる経験はないだろうか．int型とint型の足し算や引き算はうまくいくのに，doble型の計算を行うとずれる場合がある．本記事ではその原因の解説と，BigDecimalを用いた正しい計算方法を解説する．

続きを読む