Hola que tal.
No se muy bien como manejes tu jdialog pero lo que podrias hacer, es cambiarlo de modal a no modal, antes de llanar a tu reporte, y una vez que cierres el reporte, volver a cambiar el valor.
Otra opción es que cierres tu jdialog y si necesitas tener alguna informacion, la guardas, y cuando cierres tu reporte vuelves a mostrar tu jdialog.
Bueno, espero haber entendid tu pregunta, y si es así, espero que te sirva algo de lo anterior.
Hasta luego.