Entra a
http://www.sysinternals.com/ (ahora es Microsoft) y bajate las herramientas que te parezcan utiles. Estas son las que empezaria a usar yo:
Process Explorer << para ver que mierda hay en ejecucion o en memoria (DLLs).
Autoruns << para ver que mierda se carga al iniciar Windows.
Tambien hay monitorizadores del registro, de archivos, y mas cosas.