技術士第一次試験 専門科目情報工学部門 R01再

問題 10 / 35

出典: 令和元年度技術士第一次試験問題 (再試験) 情報工学部門

コンピュータで数値計算を実施する場合に、誤差が生じることがある。いま、0.010.01をコンピュータ内部で表現した値を100回足したところ答えが1にはならなかった。プログラム自体に誤りは無いとすると、1にならなかった原因の誤差として最も適切なものはどれか。なお、コンピュータ内部では数値を2進数で扱っており、0.010.01は2進数では循環小数で表現するものとする。

丸め誤差
情報落ち誤差
桁落ち誤差
オーバーフロー
打切り誤差

当サイトでは、ユーザー体験の向上を目的としてCookieを使用しています。サイトの利用を継続することで、Cookieの使用に同意したものとみなされます。