Lo que buscas se denomina Whois , hay muchos scripts relacionados con esto en
www.hotscripts.cokm , el funcionamiento consiste en consultar una base de datos de whois , hay muchas de libre acceso , a posteriori se debe conectar al server de whois por sockets es lo mas común , asegurate de que tu hosting lo permite y el resultado sale tras verificarse con el server la disponibilidad
El resultado no es que el server te diga si esta disponible o no no esta disponible sino que se obtiene una respuesta tipo No Match , No Find que puede variar entre cada tipo de dominio a buscar , .org, .com , etc , esto identifica el dominio solicitado deduciendose si esta o no libre
Pasate por
www.hotscripts.com ahi encontraras muchos sistemas de whois y aprenderas facilmente a realizar el tuyo saludos