supongo vas a recibir los datos a convertir en hexadecimal por el teclado, si es asi al introducir por ejemplo 1100 estos datos los va a guardar en ascii (hexadecimal) 31 31 30 30 por lo que primero debemos quitarle esos 30 y luego hacer una comparacion teniendo los datos almacenados:
0000--0
0001--1
0010--2
.....
1100--C
1111--F
si por ejemplo era 1100 al hacer la comparacion vas a ver que es una C
espero haberme dado a entender
