Hola:
Si es solo para presentacion en pantalla, usa la clase DecimalFormat http://www.chuidiang.com/chuwiki/index.php?title=DecimalFormat
Si realmente quieres que el número tenga tres decimales todo el rato, multiplica por 1000, redondea a entero y divive por 1000.
valor3decimales = Math.round(valor*1000)/1000;
Aun así es posible que en determinados casos te de cosas raras, como .999999999 al dividir por 1000
Se bueno.