Hola.
Se me ocurre que el primer programa que mencionas no use el Z-Buffer, y con la opción de configuración de la tarjeta que mencionas lo fuerce, o bien que esté usando un Z-Buffer de poca profundidad y al forzar los 24 bits se arreglen los errores de precisión.
El segundo podría usarlo explícitamente, por lo que no es necesario forzarlo, o bien podría pintar toda la geometría de atrás hacia adelante, por lo que el uso del Z-Buffer se hace innecesario y por ello no notas diferencia.
Comprueba esto que te he comentado, a ver si descubres la solución al misterio.
Un saludo.
Ruben3d