浮動小数点表現(IEEE754)
意味
実数は「仮数部×基数の指数乗」の形で表す浮動小数点で扱います。現在の計算機の浮動小数点規格は IEEE754 です。64ビット(倍精度)で有効数字は約16桁、指数の範囲は10の−308乗から308乗くらいです。数値の精度と範囲を決めるデータ長はプログラム上で定義します(単精度か倍精度かを変数で選ぶ)。プロセッサの処理単位である32ビット・64ビットだけでは決まりません。
具体例
倍精度の実数は約16桁まで信頼できるので、16桁より先は誤差です。問12-4・12-5(浮動小数点の演算)、問12-9(64ビット機でも精度は自動では上がらない)に関係します。
用語がわかったら、問題と公式で定着
公式集・無料サンプル問題10問もどうぞ。続きはアプリ「CAE試験対策」で。
本アプリは非公式・非提携の独立した学習アプリです（日本機械学会(JSME)・計算力学技術者認定試験とは無関係）。説明・具体例はすべて独自作成です。
用語集の一覧へ戻る