以前にエクセルで計算した計算結果に少数点以下の微妙な端数が出たことがありました。
実際にどんな数式を入れて計算していたのか忘れてしまいましたが、その時に調べてわかったことはコンピューターでは10進数の計算を2進数の近似値で計算することから小数点以下の微妙な端数が出る場合があることが分かりました。
なかなかお目にかかることがありませんが、実際に起こってみると何が何だか原因がわかりません。
今後のために参考サイトを載せておきます。
この資料は、Excel 上で小数点を使用して計算すると、誤差を生じる場合があることについて説明しています。
エクセルでは小数点以下の数は正確には計算できません。小数点以下の数には誤差があるためです。しかし、誤差を理解するには専門的な知識が必要になるので、どうもよくわからないと感じている人も多いと思います。
日経PC21 / 小数計算で発生する「誤差」 – 単純な計算の答えが合わない理由
=ROUNDDOWN((76052441*0.2)-15860003,3)
の答えが649514.799になってしまいます。
本来は「649514.8」なのでは？と思います。
どうしてでしょうか？
とりあえずエクセルで計算式を組む時は関数できっちりと端数処理をしておきましょう。
コメント