Usar directamente la API de windows comenzando desde cero sin un ejemplo básico no es sencillo. Hay un montón de funciones que tienes que conocer y entender cómo funcionan. Sería mejor que uses Visual C++. Tiene templates para crear el esqueleto de todo tipo de aplicaciones básicas, incluyendo un servicio de windows.
Tal vez c++ builder tenga algo parecido. En Delphi es bastante más fácil todo esto por que posee una capa de abstracción excelente que simplifica muchísimo el desarrollo de aplicaciones, digo esto por que siendo c++ builder y delphi de Borland deberían tener una capa de abstracción similar. Si es así bastaría con ocultar la ventana principal y tener un bucle con un sleep, un timer, un hilo o lo que veas conveniente.
De todas formas la idea básica es tener un bucle esperando por mensajes de windows, sin consumir 100% de cpu, para poder saber cuando hay que cerrar la aplicación. De esta forma no es necesario mostrar una ventana y simplemente la puedes ocultar. Generalmente además hay que agregar un ícono pequeño en la barra de tareas para que el usuario pueda cerrar o configurar la aplicación.
Otra alternativa más avanzada es implementar la aplicación como servicio para que desde el administrador de servicios pueda ser iniciado, cerrado, pausado, etc.
