桁落ち
意味
浮動小数点の演算で、絶対値がほぼ等しい数どうしを引くと(符号が異なる数どうしなら足すと)、上位の有効数字がそろって消えます。その結果、答えの有効桁数が極端に少なくなる現象を桁落ちといいます。引き算の結果が小さくなっても、残った桁には元の数の誤差が目立って入り込んでいます。ほぼ等しい2数の減算が、有効桁数を最も減らす演算です。
具体例
1.234567 − 1.234560 = 0.000007 は、7桁あった有効数字が 1桁(7)しか残りません。問12-5(有効桁数が最も減る演算)、問12-4(減算での桁落ち)で使います。
用語がわかったら、問題と公式で定着
公式集・無料サンプル問題10問もどうぞ。続きはアプリ「CAE試験対策」で。
本アプリは非公式・非提携の独立した学習アプリです（日本機械学会(JSME)・計算力学技術者認定試験とは無関係）。説明・具体例はすべて独自作成です。
用語集の一覧へ戻る