基礎理論
基本情報技術者試験 科目A免除 修了試験 20120122 実施分 問4
浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
- ア 演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。
- イ 数表現のけた数に限度があるので，最下位けたより小さい部分について四捨五入や切上げ，切捨てを行うことによって生じる誤差である。
- ウ 乗除算において，指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。
- エ 絶対値がほぼ等しい数値の加減算において，上位の有効数字が失われることによって生じる誤差である。
出典：基本情報技術者試験 科目A免除 修了試験 20120122 実施分 問4
答えと解説を見る
正解：イ
覚える知識
丸め誤差の定義
丸め誤差とは、数値表現のけた数の限度により最下位より下の部分を丸めることで生じる誤差である。
この問題で必要なこと
有効けた数の制限により最下位けた以下を四捨五入・切上げ・切捨てすることで生じる誤差が丸め誤差。
ひっかけ
アはオーバフロー、ウは情報落ち、エは桁落ちの説明。
この知識の出題：本試験系 2 回・免除試験 4 回（公開問題での観測値）