Puedes crear un archivo de tipo *.xls
Cada vez que escribas un \t te mueves un cuadro a la derecha, cada vez que escribas \n pasas a la siguiente línea.
Por ejemplo:
FILE *pf;
pf=fopen("ejemplo.xls","w");
fprintf(pf,"1\t2\t3\n4\t5\t6");
fclose(pf);
Si lo abrieras con el excell se leería algo así:
1 2 3
4 5 6
ocupando cada número un cuadrado de excell.
Para abrir el excell lo más sencillo es usar la API de windows y su función CreateProcess() pasándole como argumento la ruta completa al programa excell (C:\\archivos de programa\Microsoft office\office\excell.exe) seguido del nombre (y ruta) del archivo que deseas abrir.
Un saludo.