20^20 = overflow

Como Decimal sigue sin rular
Como Single me devuelve "Infinito"

Mmmm...

Esto me funciona sin problemas:

Dim dec As Decimal = 20 ^ 20
Dim sing As Single = 20 ^ 20
Dim doub As Double = 20 ^ 20

Console.WriteLine(dec.ToString("0"))
Console.WriteLine(sing.ToString("0"))
Console.WriteLine(doub.ToString("0"))

Como Double sigue dandome de resultado un valor ¿cientifico?

Bueno, eso es solo la conversion a texto cuando no se le da formato
especifico. Fijate como sale con el formato que le doy en el codigo de
arriba: 104857600000000000000000000

1.2994262207056124E+262, como puedo representarlo decimal, talcual

Ah, pero eso no es 20^20! 20^20 no tiene problemas en entrar en un Decimal y
Single, pero el numero que muestras aqui si. De todas formas el asunto es el
formato de la conversion a texto por lo que te refiero igual que antes al
codigo de arriba.

Eduardo A. Morcillo [MS MVP VB]
http://www.mvps.org/emorcillo
http://mvp.support.microsoft.com/pr...4EF5A4191C

La operacion se lleva a cabo dentro de una Sub, que es llamada cuando se
generan unos controles en el formulario, por lo que el valor de los operandos
de la operacion, se incrementan dependiendo de los valores de esos controles,
20^20, es solo el valor inicial.

la Sub es esta

Private Sub Calcula()
' Usar es un TextBox, con unos caracteres

Dim Combinaciones As Decimal
Combinaciones = CDec(Usar.Length ^ Usar.Length)
lblCombinaciones.Text = Combinaciones.ToString
End Sub



El Problema aparece, cuando Usar.Length > 21 el maximo que valdra sera 125

Perdón de nuevo, cuanto mas llevo en esto, mas pronto me impaciento.

Chory

Hola, Ch0rY:

El operador ^ (exponencial) nunca produce una excepción, ya que los operandos se convierten al tipo Double antes de realizar la operación.
La excepción se puede producir al intentar convertir el resultado a otro tipo de datos, en tu caso, a Decimal. Esto es porque Double puede contener valores mayores que Decimal.MaxValue.

Además, creo que lo que tú quieres es que el resultado no se represente en notación científica. Esto no tiene nada que ver con el tipo de datos de la variable en la que almacenas el valor, sino con la conversión al tipo de datos String. Yo dejaría tu procedimiento así:

Private Sub Calcula()
' Usar es un TextBox, con unos caracteres

Dim Combinaciones As Double
Combinaciones = Usar.Length ^ Usar.Length
lblCombinaciones.Text = Combinaciones.ToString("#")
End Sub

O incluso:
lblCombinaciones.Text = (Usar.Length ^ Usar.Length).ToString("#")


Saludos.


"Ch0rY" escribió en el mensaje news:
| La operacion se lleva a cabo dentro de una Sub, que es llamada cuando se
| generan unos controles en el formulario, por lo que el valor de los operandos
| de la operacion, se incrementan dependiendo de los valores de esos controles,
| 20^20, es solo el valor inicial.
|
| la Sub es esta
|
| Private Sub Calcula()
| ' Usar es un TextBox, con unos caracteres
|
| Dim Combinaciones As Decimal
| Combinaciones = CDec(Usar.Length ^ Usar.Length)
| lblCombinaciones.Text = Combinaciones.ToString
| End Sub
|
|
|
| El Problema aparece, cuando Usar.Length > 21 el maximo que valdra sera 125
|
| Perdón de nuevo, cuanto mas llevo en esto, mas pronto me impaciento.
|
| Chory

Pos sí,debia ser ese el problema, xq funciona perfectamente como has indicado

Muchas gracias, y tomo nota, x si me surge otra vez.

chory

Me alegro de que te funcione. Si me permites una pregunta, ¿qué representa la expresión (Usar.Length ^ Usar.Length)? Eso no es un número de combinaciones, variaciones o permutaciones...

Saludos.


"Ch0rY" escribió en el mensaje news:
| Pos sí,debia ser ese el problema, xq funciona perfectamente como has indicado
|
| Muchas gracias, y tomo nota, x si me surge otra vez.
|
| chory