En escencia, un número son bytes agrupados. Eso de pasarlo a decimal, binario, octal o hexadecimal, tiene sentido sólo para su representación como cadena de texto.
Por lo tanto, lo que necesitas es convertir ese número a cadena de texto, y para ello puedes emplear el parámetro "radix" de la función itoa (o ltoa). Por ejemplo, el siguiente programa:
int main ()
{
int i;
char buffer [33];
i = 1750;
itoa (i,buffer,10);
printf ("decimal: %s\n",buffer);
itoa (i,buffer,16);
printf ("hexadecimal: %s\n",buffer);
itoa (i,buffer,2);
printf ("binario: %s\n",buffer);
return 0;
}
tiene la siguiente salida:
decimal: 1750
hexadecimal: 6d6
binario: 11011010110
Saludos.