問題2
4n ビットを用いて整数を表現するとき、符号なし固定小数点表示法で表現できる最大値をa とし、BCD(2進化10進符号)で表現できる最大値をb とする。
n が大きくなるとa /b はどれに近づくか。
| ア | (15/9)×n |
| イ | (15/9)n |
| ウ | (16/10)×n |
| エ | (16/10)n |
解答・解説を見る
解答：エ
- nビットの長さのビット列を用いて、符号なし固定小数点表示法で値を表現すると、表現できる最大値は2m-1となる
- ビットの長さが4nビットの時表現できる最大値は24n-1である。nが大きいときは24nの値が非常に大きくなるので、24n-1≒24n=16nとみなすことができる
- ビット列の長さが4nビットの時、BCDで表現できる最大値bは9がn桁並ぶ値になる。
例)n=2の時、4n=8になるためBCDでは99999999≒100000000=108となるため、9がn桁並ぶ値は10nとみなせる - nを大きくするとa/b=16n/10n=(16/10)nになる。