午前問2
けた落ちの説明として、適切なものはどれか。
値がほぼ等しい浮動小数点同士の減算において、有効けた数が大幅に減ってしまうことである。 | |
演算結果が、扱える数値の最大値を超えることによって生じる誤差のことである。 | |
数表現のけた数に限度があるとき、最小のけたより小さい部分について四捨五入、切上げ又は切捨てを行うことによって生じる誤差のことである。 | |
浮動小数点の加算において、一方の数値の下位のけたが結果に反映されないことである。 |
『情報処理過去問.com』からiPhoneアプリがリリースされました!!
正解
- ア