Visual Basic - problema desbordamiento

Life is soft - evento anual de software empresarial
   
Vista:

problema desbordamiento

Publicado por rafa car (2 intervenciones) el 10/02/2009 14:18:03
no entiendo el porque pero en este codigo .....

Dim porec As Single
Dim premod As Double
Dim base As Double
Dim precioini As Double
Dim ivaprecio As Double
Dim v0 As Double
Dim v1 As Double
Dim v2 As Double
Dim v3 As Double

precioini = 0
ivaprecio = 0
MousePointer = 11

'Controla si se ha modificado el precio

v0 = 0
v1 = 0
v2 = 0
v3 = 0

base = 0
valiva = 0
valrec = 0
ivaprecio = 0
v0 = TDBNumber1(2)
v1 = TDBNumber1(11)
v2 = TDBNumber1(1)
v3 = TDBNumber1(0)
TDBNumber1(4) = (v0 / ((100 + v2) / 100))
precioini = TDBNumber1(4) * v3
ivaprecio = (v0 * v3)
ivaprecio = ivaprecio - precioini
base = ((v0 * v3) - ivaprecio)
porrec = TDBNumber1(6)
valiva = ivaprecio

el valor del campo ivaprecio es 7,99999999999998E-02, cuando los valores de v0 = 1,2 el valor de v3 = 1 y el de precioini = 1,12 con lo que segun mi calculo es :

ivaprecio = 1,2 * 1
ivaprecio = 1,2 - 1,12

deberia ser 0,08, me pueden decir cual es el error????????

gracias de antemano
Valora esta pregunta
Me gusta: Está pregunta es útil y esta claraNo me gusta: Está pregunta no esta clara o no es útil
0
Responder

RE:problema desbordamiento

Publicado por Diego (16 intervenciones) el 10/02/2009 20:01:45
Hola, tenes que usar "FormatNumber".

Saludos!
Valora esta respuesta
Me gusta: Está respuesta es útil y esta claraNo me gusta: Está respuesta no esta clara o no es útil
0
Comentar