Si no la eliminas, de cualquier forma Tomcat (o cualquier otro app-server) la eliminará después de un tiempo.
Ahora bien, para eliminarla, simplemente incluye el siguiente código en donde quieras eliminar la sesión:
session.invalidate();
Espero que te sirva.