Hola:
Tienes muchas posibilidades según lo que quieras.
Puedes dibujártelo tú. En http://www.chuidiang.com/java/graficos/simple/grafico_simple.html tienes un mini-tutorial para ver cómo se dibujan los gráficos.
Otra opción es coger alguna librería ya hecha de gráficos. En http://www.chuidiang.com/java/graficos/libreria/ejemploslibreria.html tienes una pequeña librería de gráficos con un diagrama de barras de ejemplo.
Si quieres una librería más seria y gratuita, puedes usar JFreeChart, como ya te han comentado http://www.jfree.org/jfreechart/ La librería es gratuita y se puede usar, lo que es de pago son los manuales.
Se bueno.