Hola:
No conozco forma de llamar a algo esecíficamente asm desde java.
Desde java, que yo sepa, sólo puedes llamar a ejecutables ya generados por otras apliaciones (da igual que el ejecutable venga de asm, de C++ o de cualquier otro lenguaje, lo que necesitas es el .exe). Esto se hace con Runtime.getRuntime().exec()
También desde java se puede usar librerías de otros lenguajes. Igual que antes, lo que se necesita es el fichero .dll (o .so en linux) y da igual con qué lenguaje se haya hecho. Las llamadas a funciones de estas librerías se hacen con jni. Buscando jni en google no te costará encontrar tutoriales.
Se bueno.