Error calculo numérico

05/03/2004 - 16:40 por Jon | Informe spam
Hola a tod@s

Tengo un problema al realizar operaciones con números reales en Vbscript por
ej:
10.11 - 10.10 = 9,99999999999979E-03
en vez de 0.01
¿Aguna idea de por qué ocurre esto o de como solucionarlo?
Estoy ejecutando el código en Intenet Explorer 6.0.

Gacias

Preguntas similare

Leer las respuestas

#1 Manuel Etcheto
05/03/2004 - 18:44 | Informe spam
Hola
Ocurre porque vbscript lo asume como variant del subtipo
double...
Lo solucionas con
Round(10.11 - 10.10, 2) 'sigue siendo subtipo double pero
con el redondeo a 2 decimales
Csng(10.11 - 10.10) 'lo convierte al subtipo single

Suerte
Manuel


Hola a

Tengo un problema al realizar operaciones con números


reales en Vbscript por
ej:
10.11 - 10.10 = 9,99999999999979E-03
en vez de 0.01
¿Aguna idea de por qué ocurre esto o de como solucionarlo?
Estoy ejecutando el código en Intenet Explorer 6.0.

Gacias




.

email Siga el debate Respuesta Responder a este mensaje
Ads by Google
Help Hacer una preguntaRespuesta Tengo una respuesta
Search Busqueda sugerida