Cuando llamas a un diálogo generalmente este tiene un botón de OK o Cancel, ¿qué sucede cuando presionas cualquiera de estos botones? pues se llama a la función EndDialog para terminar este diálogo. Entonces lo que tienes que hacer es llamar a esta función cuando termines el proceso que estés haciendo.