Ese codigo esta mal por lo que no se va a poder ejecutar nunca. El codigo correcto sería:
<html>
<body>
<%x="hola"%>
<table border = 1>
<td><%=x%></td>
</body>
</html>
El set no se puede utilizar para asignar valores a variables. A las varibles se les asignan los valores mediante un igual. El set se utiliza para los objetos.
Espero que te haya servido de ayuda.
