10進数

浮動小数点の表現規格とその変換方法【IEEE754】

コンピュータで浮動小数点を扱う場合，さまざまな表現で記載することができる．この表現方法を統一するためにIEEE754という規格がある．

javaで数値の計算を行うときに計算結果がずれる経験はないだろうか．int型とint型の足し算や引き算はうまくいくのに，doble型の計算を行うとずれる場合がある．本記事ではその原因の解説と，BigDecimalを用いた正しい計算方法を解説する．