Java - Añadir linea Separatoria en un menu

Hola que tal?? Mi caso es el siguiente:

Tengo una barra de menu con un conjunto de botones, especificamente JToggleButton, y quiero separarlos con una linea vertical...he logrado poner la linea vertical, pero tambien se introduce un espacio grande entre la linea y el siguiente conjunto de botones. ¿Cómo puedo introducir la linea separatoria vertical entre los dos conjuntos de botones, sin que se introduzca ese espacio tambien?.

Perdonad si no me he explicado bien y Gracias de antemano.