Численная ошибка — это ошибка в численных вычислениях.
Типы Конечная ошибка может быть суммарным результатом двух видов ошибок в расчёте. Первая называется ошибкой округления и возникает из-за конечной точностью вычислений с числами с плавающей запятой. Вторая обычно называется ошибкой отбрасывания — это разница между точным математическим решением и приближённым значением, полученным при упрощении математических формул с целью сделать их более пригодными для вычисления.
См. также
Численные методы Анализ ошибок Ошибка округления Алгоритм Кэхэна
Ссылки
Категория:Компьютерная арифметика