Si usas Visual C++ puro y duro, puedes saber el estado del radio buton enviando un mensaje BS_GETCHECK de esta manera:
SendMessage(hwnd, BS_GETCHECK, 0, 0);
La función devuelve BST_CHECKED o BST_UNCHECKED, dependiendo si el botón está pulsado o no.
Claro que si estás usando MFC, u otra librería de objetos debe hacerse de otra manera...