JScrollPane pane = new JScrollPane();
JButton boton = new JButton("our Button");
pane.add(boton);
Así se agrega un botón claro tienes que hacer muchas cosas mas como aplicar un layout , visibilidad, tamaño, peso y agregar el JScrollPane a un JDialog o un JFrame para que puedas observarlo. Cosas que no pude hacer por motivo de tiempo pero el pequeño código que escribí hace básicamente lo que dices en tu pregunta.
Cualquier duda responde en este foro o en el de Emagister.com