¿bug de conversión double/CString VC++?
Publicado por Iñigo (7 intervenciones) el 11/10/2001 19:00:16
Hola
tengo problemas al convertir reales a strings con Vc++ y MFC
me gustaria que probaseis el siguiente código y me indicaseis si os da lo mismo.
CString aux;
aux.Format(_T( "%.20f" ), (double) 0.6 );
aux toma un valor de 0.59999999.....
en lugar de 0.60000000...
a partir de 17 decimales en adelante me pasa esto.
¿como se puede redondear a partir de un decimal?
por ejemplo
si el número es 0.000000000000000006
me lo redondee a 0.00000000000000001
agradecidamente,
Iñigo
tengo problemas al convertir reales a strings con Vc++ y MFC
me gustaria que probaseis el siguiente código y me indicaseis si os da lo mismo.
CString aux;
aux.Format(_T( "%.20f" ), (double) 0.6 );
aux toma un valor de 0.59999999.....
en lugar de 0.60000000...
a partir de 17 decimales en adelante me pasa esto.
¿como se puede redondear a partir de un decimal?
por ejemplo
si el número es 0.000000000000000006
me lo redondee a 0.00000000000000001
agradecidamente,
Iñigo
Valora esta pregunta
0