技術士第一次試験 基礎科目 H27

問題 7 / 30

出典: 平成27年度技術士第一次試験問題[基礎科目] Ⅰ-2-1

コンピュータで数値計算を実施する場合に、誤差が生じることがある。いま、0.01をコンピュータ内部で表現した値を100回足したところ答えが1にはならなかった。プログラム自体に誤りは無いとすると、1にならなかった原因の誤差として最も適切なものはどれか。なお、コンピュータ内部では数値を2進数で扱っており、0.01は2進数では循環小数で表現するものとする。

桁落ち
情報落ち
オーバーフロー
アンダーフロー
丸め誤差

当サイトでは、ユーザー体験の向上を目的としてCookieを使用しています。サイトの利用を継続することで、Cookieの使用に同意したものとみなされます。