Creo un nuevo proyecto Exe corriente y moliente y por supuesto lo llamo 'Instalar', 'setup' o algo así por el estilo.
Añado formularios con el título de la aplicación, para seleccionar algo, ese tipo de cosas. Depende mucho de lo que vaya a instalar.
Para crear carpetas: MkDir
Para copiar archivos: FileCopy
Para registrar ActiveX: Shell "REGSVR32 C:\Ruta\
Para conocer versión de SO, ubicación de carpetas especiales, etc, etc las correspondientes funciones del api.
Puedes también echarle un vistazo al fuente del setup que crea el asistente de empaquetado y dst. de vb. Debes de tenerlo por \Archivos de programa\Microsoft Visual Studio\VB98\Wizards\PDWizard\Setup1 o una carpeta equivalente.
Suerte.