Cero - errores infinitesimales

31/01/2007 - 16:05 por Paula | Informe spam
Estoy trabajando con una planilla de 1000 filas, cada una de las cuales tiene
números de por los menos 6 cifras (más tres decimales).
Tengo dos columnas con 1000 filas cada una, con datos comunes de modo tal
que la sumatoria de los elementos de cada columna sea la misma. Luego, si
hago la diferencia entre ambas sumatorias, no me da cero, sino que obtengo un
error infinitesimal del tipo 0,38E-15.
Este es sólo uno de los muchos casos que se me han presentado, y no creo que
el error sea de cálculos porque a nivel matemático todo cierra si lo
simplifico y sólo trabajo con columnas de 3 filas y números de dos cifras...
Paula

Preguntas similare

Leer las respuestas

#1 KL
31/01/2007 - 16:57 | Informe spam
Hola Paula,

Has topado con el famoso Error Aritmetico del Punto Flotante. El problema
surge al convertir valores binarios a decimales en el proceso de calculo y
no tiene nada que ver con Excel. Revisa el siguiente enlace para la
explicacion detallada y las soluciones:
http://support.microsoft.com/kb/78113/es

Saludos,
KL


"Paula" wrote in message
news:
Estoy trabajando con una planilla de 1000 filas, cada una de las cuales
tiene
números de por los menos 6 cifras (más tres decimales).
Tengo dos columnas con 1000 filas cada una, con datos comunes de modo tal
que la sumatoria de los elementos de cada columna sea la misma. Luego, si
hago la diferencia entre ambas sumatorias, no me da cero, sino que obtengo
un
error infinitesimal del tipo 0,38E-15.
Este es sólo uno de los muchos casos que se me han presentado, y no creo
que
el error sea de cálculos porque a nivel matemático todo cierra si lo
simplifico y sólo trabajo con columnas de 3 filas y números de dos
cifras...
Paula
email Siga el debate Respuesta Responder a este mensaje
Ads by Google
Help Hacer una preguntaRespuesta Tengo una respuesta
Search Busqueda sugerida