桁落ち、情報落ち |
---|
◆ 桁落ち、情報落ち 暗記物ですので、そのまま覚えましょう。 ・桁落ち 計算結果がかぎりなく 0 に近い加減算の処理を行った場合に起きます。 例で言えば、0.333333 - 0.333332 = 0.000001 などの計算を行った場合などで起きてしまいます。 コンピュータ内部で、上記の結果を浮動小数点数で正規化をしてしますと、 仮数部の最上位桁の値が 0 にならないよう調整されてしまうため、上位の桁が省略されてしまいます。 (ちなみに電卓とかでは起きませんが、プログラム作っていた時の場合です) ・情報落ち 絶対値が極端に離れた数値で、加減算を行った場合に起きます。 例で言えば、100.0 + 0.00000001 = 100.00000001 など行った場合です。 有効桁数が8桁だとします。すると上の結果だと、明らかに8桁を超えてしまってますので、 小さい桁が切り捨てられ結果が 100 となってしまう現象です。 |
TOPページに戻る |