技術士第一次試験 基礎科目 H24

問題 6 / 25

出典: 平成24年度技術士第一次試験問題[基礎科目] Ⅰ-2-1

演算と精度に関する記述として、最も適切なものはどれか。

浮動小数点の演算は、オーバーフローやアンダーフローが発生しないため、広く用いられている。
浮動小数点の演算において、有効桁数が失われる桁落ちの誤差は乗除算の際にのみ発生する。
数値演算を固定小数点方式で行えば、誤差は発生しない。
浮動小数点の演算では、単精度の演算で発生する丸め誤差を小さくするため、倍精度の演算が用いられることが多い。
10進7桁の表現しか許されない場合、100000.0に0.01を加えても誤差は発生しない。

当サイトでは、ユーザー体験の向上を目的としてCookieを使用しています。サイトの利用を継続することで、Cookieの使用に同意したものとみなされます。