La respuesta anterior era para la clasificacion de los mismos. Prueba de la siguiente forma (usando la formula de pitadoras h2 = c1^2 + c2^2):
public void esRectangulo(int c1, int c2, int h){
if ( (int) Math.sqrt(Math.pow(h, 2)) == (int) Math.sqrt(Math.pow(c1, 2) + Math.pow(c2, 2))) {
System.out.println("Es rectangulo");
}else {
System.out.println("no es rectangulo");}
}
para potencias, es decir, x^y
para raices, es decir, x sqrt y