Error numérico

En ingeniería de software y matemáticas , el error numérico es el error en los cálculos numéricos .

Puede ser el efecto combinado de dos tipos de error en un cálculo.

• La primera es causada por la precisión finita de los cálculos que involucran valores de punto flotante o enteros.
• El segundo error, llamado habitualmente error de truncamiento, es la diferencia entre la solución matemática exacta y la solución aproximada que se obtiene cuando se simplifican las ecuaciones matemáticas para hacerlas más fáciles de calcular. El término truncamiento proviene del hecho de que estas simplificaciones suelen implicar el truncamiento de una expansión de serie infinita para que el cálculo sea posible y práctico, o porque se descartan los bits menos significativos de una operación aritmética.

El error numérico de punto flotante a menudo se mide en ULP ( unidad en el último lugar ).

• Pérdida de importancia
• Análisis numérico
• Análisis de errores (matemáticas)
• Error de redondeo
• Algoritmo de suma de Kahan
• Problema de signo numérico

• Precisión y estabilidad de algoritmos numéricos , Nicholas J. Higham, ISBN  0-89871-355-2
• "Error computacional y complejidad en ciencia e ingeniería", V. Lakshmikantham, SK Sen, ISBN 0444518606