Numero en MACRO

07/03/2007 - 19:30 por Jon | Informe spam
Hola a todos
estoy usando macros y cuando doy un valor a una constante en la macro,
quiero usar por lo menos en algunas variables la notación científica para que
no se me llene la pantalla de programación.
Lo que me pasa es que si pongo k=1.025e-4 me lo pasa a 0.0001025 y al final
me salen unas expresiones que son mas dificiles de seguir en pantalla.
Hay alguna forma de hacer que me mantenga la notación?
Muchas gracias a todos!
 

Leer las respuestas

#1 Héctor Miguel
08/03/2007 - 05:34 | Informe spam
hola, Jon !

estoy usando macros y cuando doy un valor a una constante en la macro
quiero usar por lo menos en algunas variables la notacion cientifica
para que no se me llene la pantalla de programacion.
Lo que me pasa es que si pongo k=1.025e-4 me lo pasa a 0.0001025
y al final me salen unas expresiones que son mas dificiles de seguir en pantalla.
Hay alguna forma de hacer que me mantenga la notacion?



[hasta donde se]...
1) para 'trabajar' con numeros, los procesadores utilizan el 'punto flotante de precision doble' [Double]
siguiendo los estandares de la organizacion: IEEE [Institute of Electrical and Electronic Engineers]
2) excel 'trabaja' con una 'precision' maxima de 15 digitos 'significativos' [o sea]...
3) expresiones como la que expones [1.025e-4] excel lo 'puede' representar 'cabalmente' -> 0.0001025
y hasta el 'maximo' de 1.025e-12 [mismo caso] excel lo va a representar como: 0.000000000001025
-> el 'ultimo' digito significativo esta ocupando el lugar numero 15 :D
4) a partir del decimosexto digito 'significativo' SI te lo va a presentar en notacion 'cientifica' 1.025e-13
5) si solo necesitas que no 'te estorbe' cualquier 'exceso' de ceros [cuando excel pudiendo representarlo lo haga]...
prueba con algo +/- como: k = evaluate("1.025e-4")

si cualquier duda [o informacion adicional]... comentas ?
saludos,
hector.

Preguntas similares