問題6
浮動小数点表示された数値の演算結果における丸め誤差の説明はどれか。
| ア | 演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。 |
| イ | 数表現のけた数に限度があるので、最下位けたより小さい部分について四捨五入や切上げ、切捨てを行うことによって生じる誤差である。 |
| ウ | 乗除算において、指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。 |
| エ | 絶対値がほぼ等しい数値の加減算において、上位の有効数字が失われることによって生じる誤差である。 |
解答・解説を見る
解答：イ
| ア | × | けたあふれ(オーバーフロー)に関する説明である。 |
| イ | ○ | 丸め誤差に関する説明である。 |
| ウ | × | 情報落ちに関する説明である。 |
| エ | × | けた落ちに関する説明である。 |