ア |
けたあふれの説明である。
例えば、4ビットの正の整数しか扱えないコンピュータで8(1000)×4(0100)=32(10 0000)は結果が4ビットに収まらないのでけたあふれが発生する。(8けたの電卓で、9けたの数字を扱うのと同じ。) |
イ |
丸め誤差の説明である。
例えば、1÷3は0.333333…であるが、コンピュータで有効けた数が小数第二位だった場合、0.33になり、誤差として0.003333…が生じる。 |
ウ |
情報落ちの説明である。
例えば、3.0×105-2.0×10-1=2.999998×105であるが、仮数部の有効けた数が2けたとすると3.0×105になってしまい、-2.0×10-1の情報が無視されることである。 |
エ |
けた落ちの説明である。
例えば、(10÷30)-(10÷31)を有効けた数小数第2位までとして計算すると、10÷30=0.33333… ≒ 3.33×10-1になる。また、10÷31=0.32258… ≒ 3.32×10-1になる。
したがって、(10÷30)-(10÷31)=3.33×10-1-3.32×10-1=0.01-1=1×10-3になり、有効けた数が1けたになってしまう。 |