丸め誤差と計算精度
意味
コンピュータは実数を有限個のビットでしか表せません。演算結果が表せる桁数を超えると、四捨五入などで桁をそろえます。このとき生じる小さな誤差が丸め誤差です。丸め誤差は CPU の速さを上げても改善しません。変数の種類(単精度か倍精度か)やアルゴリズム(計算の順序や方法)に左右されます。逆にいえば、計算の順序を工夫したりアルゴリズムを改善したりすると、計算精度が大幅に良くなることもあります。
具体例
1÷3 を有限桁で 0.3333… と途中で切って表すと、元の値とのずれが残ります。これが丸め誤差です。問12-1(丸め誤差・桁落ちの定義の区別)、問12-2(実数演算の誤差・演算順序の心得)で使います。
用語がわかったら、問題と公式で定着
公式集・無料サンプル問題10問もどうぞ。続きはアプリ「CAE試験対策」で。
本アプリは非公式・非提携の独立した学習アプリです（日本機械学会(JSME)・計算力学技術者認定試験とは無関係）。説明・具体例はすべて独自作成です。
用語集の一覧へ戻る