浮動小数点形式で表現される数値の演算において、有効けた数が大きく減少するものはどれか。
ア | 絶対値がほぼ等しく、同符号である数値の加算 |
イ | 絶対値がほぼ等しく、同符号である数値の減算 |
ウ | 絶対値の大きな数と絶対値の小さな数の加算 |
エ | 絶対値の大きな数と絶対値の小さな数の減算 |
絶対値がほぼ等しく,同符号である数値の減算では,その差がわずかであるために有効けた数が減少する。
有効けた数が減少することによって生ずる誤差のことをけた落ちという。
ア | × | 有効桁数はほとんど変わらない。 |
イ | ○ | 有効けた数が大きく減少する。 |
ウ | × | 情報落ちの誤差が発生する可能性がある。 |
エ | × | 情報落ちの誤差が発生する可能性がある。 |