Hola.
Bueno, no es tan fácil, ya que las funciones para mostrar diálogos no dejan una referencia visible para estos, por lo que es complicado hacer un hide()
. Lo que se me ocurre es crear una clase que herede de JOptionPane y tenga un temporizador que lo cierre automáticamente (o si alguien tiene una mejor idea....). Consulta la documentación de Java para ver que opciones tienes, y disculpame si no te muestro código, ya que nunca tuve la necesidad de hacerlo y hace rato que dejé de programar en Java.
O mejor no te compliques, el objetivo de las alertas es mostrar información sensible para el usuario y suspender procesos, y no es agradable que una alerta se cierre automáticamente mientras el usuario la lee