Para trabajar con java puedes usar un IDE como Eclipse, Netbeans, Jbuilder, Forte, entre otros, que te van a permitir compilar los archivos java, pero el mismo SDK de java tiene el complador de java (javac) y todas las herramientas para ejecutarlo tus applets y demás programas que hagas; eclipse es open source y Netbeans es freeware, pero si quieres comprar una licencia puedes trabajar con entornos como Jbuilder diseñado por borland.
Si quieres mi opinión, te recomiendo Jbuilder ya que es un entorno muy intuitivo y realmente es mi favorito, pero tendrías que adquirir la licencia; si no quieres adquirir licencias puedes usar eclipse que es un gran IDE y te permite capacidades muy similares a las de Jbuilder, netbeans es otra buena opción y es desarrollado por la misma gente que hace java (Sun), entre sus fortalesas está el que está integrado al sun application server, jbuilder viene integrado con tomcat pero se le puede poner a utilizar otro como el websfere entre otros, eclipse creo que tambien viene con tomcat pero te permite la misma funcionalidad, realmente no estoy muy seguro de este dato.
Si quieres realmente aprender Java te recomiendo que uses textpad/notepad para editar tus archivos y que los compiles utilizando los programas de java para este fin, de este modo aprenderás java y no aprenderás a usar un IDE, con lo que no importará que IDE uses al final, si quieres hacerlo de esta forma sólo debes salvar tus archivos con extención *.java y compilarlos despues para generar el archivo *.class que es el archivo objeto de java.
Espero te sirva esta informacíon