Forums Últimos mensajes - Powered by IBM
 
Tags Palabras claves

Cero - errores infinitesimales

31/01/2007 - 16:05 por Paula | Informe spam
Ayuda Hacer una pregunta
Estoy trabajando con una planilla de 1000 filas, cada una de las cuales tiene
números de por los menos 6 cifras (más tres decimales).
Tengo dos columnas con 1000 filas cada una, con datos comunes de modo tal
que la sumatoria de los elementos de cada columna sea la misma. Luego, si
hago la diferencia entre ambas sumatorias, no me da cero, sino que obtengo un
error infinitesimal del tipo 0,38E-15.
Este es sólo uno de los muchos casos que se me han presentado, y no creo que
el error sea de cálculos porque a nivel matemático todo cierra si lo
simplifico y sólo trabajo con columnas de 3 filas y números de dos cifras...
Paula
email Siga el debateRespuesta 1 respuestaRespuesta Tengo una respuesta
DRAGON AGE™: INQUISITION – Matadragones
 

Leer las respuestas

#1 KL
31/01/2007 - 16:57 | Informe spam
Hola Paula,

Has topado con el famoso Error Aritmetico del Punto Flotante. El problema
surge al convertir valores binarios a decimales en el proceso de calculo y
no tiene nada que ver con Excel. Revisa el siguiente enlace para la
explicacion detallada y las soluciones:
http://support.microsoft.com/kb/78113/es

Saludos,
KL


"Paula" wrote in message
news:
Estoy trabajando con una planilla de 1000 filas, cada una de las cuales
tiene
números de por los menos 6 cifras (más tres decimales).
Tengo dos columnas con 1000 filas cada una, con datos comunes de modo tal
que la sumatoria de los elementos de cada columna sea la misma. Luego, si
hago la diferencia entre ambas sumatorias, no me da cero, sino que obtengo
un
error infinitesimal del tipo 0,38E-15.
Este es sólo uno de los muchos casos que se me han presentado, y no creo
que
el error sea de cálculos porque a nivel matemático todo cierra si lo
simplifico y sólo trabajo con columnas de 3 filas y números de dos
cifras...
Paula

Preguntas similares

 

Busqueda sugerida :