浮動小数点形式で表現されたx (x »1)に対して、をそのまま計算すると、けた落ちが生じることがある。
それを防ぐために変形した式として、適切なものはどれか。
ア | |
イ | |
ウ | |
エ |
答え ア
【解説】
けた落ちが発生するのは「ほぼ等しい値の減算」のときであるから、求める式を変形して減算がない形にすればけた落ちが発生しないことになる。
問題のア〜エの選択肢で減算がないのはアなので、答えはアになる。
√1000-√999をアの式の変形を行って計算すると
√1000-√999
=1/(√1000+√999)
=1/(31.6227766…+31.6069612…)
≒1/(31.622777+31.606961)
=1/63.229738
=0.0158153409…
≒0.015815341
となり、有効けた数は8けたのままである。
【キーワード】
・けた落ち