午前問2
0以外の数値を浮動小数点表示で表現する場合、仮数部の最上位桁が0以外になるように、桁合わせする操作はどれか。ここで、仮数部の表現方法は、絶対値表現とする。
切上げ | |
切捨て | |
桁上げ | |
正規化 |
『情報処理過去問.com』からiPhoneアプリがリリースされました!!
正解
- エ
解説
浮動小数点数の正規化とは、小数点の位置を調節し、その後の計算で発生する誤差を減らすことです。浮動小数点の指数部と仮数部を調節して仮数部の上位桁に0が入らないようにし誤差を少なくします。
(例)
0.1875=0.0011→0.11×10-2
(例)
0.1875=0.0011→0.11×10-2