科目A問2
浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
| 演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。 | |
| 数表現のけた数に限度があるので,最下位けたより小さい部分について四捨五入や切上げ,切捨てを行うことによって生じる誤差である。 | |
| 乗除算において,指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。 | |
| 絶対値がほぼ等しい数値の加減算において,上位の有効数字が失われることによって生じる誤差である。 |
『情報処理過去問.com』からiPhoneアプリがリリースされました!!
正解
- イ
解説
浮動小数点では表現できる桁数に上限があるため、演算結果の下位桁まで正確に保持できません。
そこで最下位より下の桁を四捨五入・切上げ・切捨てなどで処理します。
この処理によって真の値と表現値の間に生じる差が丸め誤差です。
そこで最下位より下の桁を四捨五入・切上げ・切捨てなどで処理します。
この処理によって真の値と表現値の間に生じる差が丸め誤差です。
| ア. | 演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。 |
| オーバフロー誤差の説明です。扱える最大値を超えたときの誤差であり、丸め誤差ではありません。 | |
| イ. | 数表現のけた数に限度があるので,最下位けたより小さい部分について四捨五入や切上げ,切捨てを行うことによって生じる誤差である。 |
| 表現桁数の制限により、最下位より小さい部分を四捨五入や切上げ・切捨てして生じる丸め誤差の説明です。 | |
| ウ. | 乗除算において,指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。 |
| 乗除算で指数の小さい値の下位仮数部が失われるアンダフロー/桁落ちに近い誤差の説明で、丸め誤差そのものではありません。 | |
| エ. | 絶対値がほぼ等しい数値の加減算において,上位の有効数字が失われることによって生じる誤差である。 |
| ほぼ等しい値の加減算で有効数字が失われる桁落ち(消去誤差)の説明です。 |