MySQL contiene algunas funciones de encriptacion como AES_ENCRYPT, MD5() Y SHA1(), podrias utilizar esas.
Por ejemplo para encriptar con SHA1(), que genera claves de 40 caracteres, añade una columna varchar(40) a tu tabla de usuarios, y luego simplemente inserta la clave de la siguiente manera:
INSERT INTO usuarios (nombre_usuario, password) VALUES ('nombre_usuario', SHA1('password'));
y despues para comprobar la clave simplemente la lees, la encriptas de nuevo, y comparas la cadena recien encriptada, con el valor guardado, por ejemplo:
SELECT nombre_usuario, password FROM usuarios WHERE nombre_usuario = 'nombre_usuario' AND password = SHA1('password');
Consulta la documentacion de MySQL en la parte de "Encryption and Compression Functions" para ver la sintaxis de las otras funciones y su uso.
Saludos