打ち切り誤差

出典: ASCII.jpデジタル用語辞典

うちきりごさ 【打ち切り誤差】 truncation error

演算処理を中断することで生じる誤差。たとえば、数式を繰り返し実行する処理を中断した場合に、本来得られる値との間に生じる誤差をいう。


個人用ツール
表示

索引

記号 1 2 3 4 5 6 7 8 9 0
A B C D E F G H I J K L M
N O P Q R S T U V W X Y Z