Yo con una practica ke hice y que no funcionaba en otros PCs, utilicé un programa llamado "Dependency Walker 2.1" para que me dijera las DLLs y otros archivos de los que tirara mi aplicación.
Con ese programa abrí mi ejecutable, y te sale una lista de todos las librerías que utiliza, las cogí, las metí en la misma carpeta que el ejecutable, lo probé en otro ordenador y funcionó (fue un poco tosco, pero el programa ese todavía no sé manejarlo muy bien y es para una practica de la universidad, así que tampoco me esforcé mucho xD)
A ver si te sirve de algo
PD. mi programa también usa controles ActiveX y no me dieron ningún problema en el otro ordenador.