Conocer la API no implica memorizar partes de ella.
De hecho para eso está, para no tener que aprender todas las clases y sus correspondientes métodos (lo cual es imposible).
Lo importante de la API, es saber consultarla e interpretarla, para que cuando queramos usar una clase de la que tal vez ni siquiera sabíamos que existía, no tengamos problemas en identificar y usar sus constructores, sus métodos, que argumentos pide cada método y que tipo de dato devuelven, que otras clases implementa o hereda, etc...
Es todo un lujo disponer de ella la verdad.
A parte de la API, Oracle ofrece tutoriales, aunque no siempre son tan buenos como deberían y suele ser más útil buscar por la web ejemplos de otras personas.
En cuanto a clases que conviene mirar (que no memorizar, aunque si puedes, adelante) ...
Cuando somos novatos pues las clases Scanner, String y Math conviene familiarizarse con ellas.
Quizás también la clase Arrays, aunque muchas de sus funciones como ordenar o comparar arrays lo normal es que lo hagamos con nuestro propio código precisamente para aprender a manejar arrays.
Luego es interesante saber que los tipos primitivos int, char, double, boolean... tienen sus clases equivalentes: Integer, Character, Double, Boolean. Vienen a ser lo mismo, pero con las ventajas de la Programacion Orientada a Objetos, así que muchas veces son más útiles que usar los tipos primitivos.
Tambien la clase Calendar y DateFormat para operaciones con fechas y tiempo (la clase Date está obsoleta)
Todo lo relacionado con la lectura/escritura de ficheros (File, FileReader, FileWriter, BufferedReader, BufferedWriter,...)
A parte de clases, también interesa conocer interfaces como List (y las clases que la implementan como ArrayList), Map ( implementado por HashMap, TreeMap,..),
Y luego, cuando llegue el momento de empezar a crear las primeras interfaces gráficas.... pues la clase Swing es muuuuy extensa...