Si haces un backup en sybase e intentas restaurarlo en cualquier otro motor de base de datos, seguramente te enviara un mensaje de error, por aquello de las compatibilidades.
Puedes acceder a los datos de SYBASE directamente, si tienes el driver de conexión y haces un LINKED SERVER desde SQL Server, le daría un trato como otro servidor de SQL Server.
O bien, como te decía, IMPORTAR tu base de Sybase a un SQL Server