Числовая ошибка
В программной инженерии математике числовая и ошибка — это ошибка в числовых вычислениях .
Типы [ править ]
Это может быть совокупный эффект двух видов ошибок в расчетах.
- первый вызван конечной точностью вычислений, включающих значения с плавающей запятой или целые числа.
- вторая ошибка, обычно называемая ошибкой усечения, представляет собой разницу между точным математическим решением и приближенным решением, полученным при упрощении математических уравнений, чтобы сделать их более удобными для вычислений. Термин «усечение» происходит от того факта, что либо эти упрощения обычно включают усечение разложения в бесконечный ряд , чтобы сделать вычисления возможными и практичными, либо потому, что наименее значимые биты арифметической операции выбрасываются.
Измерить [ править ]
Числовая ошибка с плавающей запятой часто измеряется в ULP ( единица измерения стоит на последнем месте ).
См. также [ править ]
- Потеря значимости
- Численный анализ
- Анализ ошибок (математика)
- Ошибка округления
- Алгоритм суммирования Кахана
- Проблема с числовым знаком
Ссылки [ править ]
- Точность и стабильность численных алгоритмов , Николас Дж. Хайэм, ISBN 0-89871-355-2
- «Вычислительная ошибка и сложность в науке и технике», В. Лакшмикантам, С.К. Сен, ISBN 0444518606
 | Эта программной инженерии, статья, посвященная является незавершенной . Вы можете помочь Википедии, расширив ее . |
 | Эта прикладной математике, статья, посвященная незавершена . Вы можете помочь Википедии, расширив ее . |