戻る
一覧へ
次へ
浮動小数点形式で表現される数値の演算において、有効けた数が大きく減少するものはどれか。
| ア | 絶対値がほぼ等しく、同符号である数値の加算 |
| イ | 絶対値がほぼ等しく、同符号である数値の減算 |
| ウ | 絶対値の大きな数と絶対値の小さな数の加算 |
| エ | 絶対値の大きな数と絶対値の小さな数の減算 |
答え イ
【解説】
浮動小数点は(-1)S×0.M×16Eで、Mのけた数が浮動小数点の有効けた数になるので、Mのけた数が減るような処理が『有効けた数が大きく減少する』になります。
アとイは絶対値がほぼ同じと書いてあるのでA:12345、B:12346とすると、
| ア | A+B=24691なので、けた数が変わっていません。 |
| イ | AB=1となり、けた数が5から1になったので有効けた数が減少しています。 |
| ウ | A+B=12346 |
| エ | AB=12344 |
【キーワード】
・有効けた数
・浮動小数点の有効けた数