En el evento KeyPress del Edit puede validar que conjunto de teclas desea que sean admitidas, aunque con Shift+Insert se puede pegar lo que hay en el portapapeles de Windows.
Por ejemplo, para que solo sean admitidas las teclas "0123ABCDabcd"
procedure TForm1.Edit1KeyPress(Sender: TObject; var Key: Char);
begin
if StrScan('0123ABCD', UpCase(key)) = nil then
Key := #0;
end;
La longitud la puedes validar con la propiedad MaxLength del TEdit.
