桁落ち

出典: ASCII.jpデジタル用語辞典

けたおち 【桁落ち】 underflow

演算において、数値の有効数字が減ること。絶対値が近い2つの数の加算または減算を行うと、桁落ちが生じる。


個人用ツール
表示

索引

記号 1 2 3 4 5 6 7 8 9 0
A B C D E F G H I J K L M
N O P Q R S T U V W X Y Z