技術士第一次試験 基礎科目 H27
通常
試験時間: 00:00問題時間: 00:00
問題一覧
問題 7 / 30
出典: 平成27年度技術士第一次試験問題[基礎科目] Ⅰ-2-1コンピュータで数値計算を実施する場合に、誤差が生じることがある。いま、0.01をコンピュータ内部で表現した値を100回足したところ答えが1にはならなかった。プログラム自体に誤りは無いとすると、1にならなかった原因の誤差として最も適切なものはどれか。なお、コンピュータ内部では数値を2進数で扱っており、0.01は2進数では循環小数で表現するものとする。
①桁落ち
②情報落ち
③オーバーフロー
④アンダーフロー
⑤丸め誤差
