基礎理論
基本情報技術者試験 科目A免除 修了試験 201001 実施分 問2
浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。
- ア 演算結果がコンピュータの扱える最大値を超えることによって生じる誤差である。
- イ 数表現のけた数に限度があるので，最下位けたより小さい部分について四捨五入や切上げ，切捨てを行うことによって生じる誤差である。
- ウ 乗除算において，指数部が小さい方の数値の仮数部の下位部分が失われることによって生じる誤差である。
- エ 絶対値がほぼ等しい数値の加減算において，上位の有効数字が失われることによって生じる誤差である。
出典：基本情報技術者試験 科目A免除 修了試験 201001 実施分 問2
答えと解説を見る
正解：イ
覚える知識
丸め誤差の定義
丸め誤差とは、有限けたで数値を表すために端数を処理することで生じる誤差である。
この問題で必要なこと
丸め誤差は、表現できるけた数に限りがあるため最下位けたより下を四捨五入・切上げ・切捨てすることで生じる誤差である。
ひっかけ
アはオーバフロー、ウは情報落ち、エはけた落ちの説明で、いずれも別の誤差と混同させる。
この知識の出題：本試験系 2 回・免除試験 4 回（公開問題での観測値）