精度

出典: ASCII.jpデジタル用語辞典
Jump to navigationJump to search

せいど 【精度】 precision

コンピューターが扱う数値において、実数を表現する桁数、または有効数字の桁数。桁数が多いほど、精度は高いと判断される。

関連項目