A la función la estás llamando como int, y por lo tanto retornará un valor entero, ademas el IntPtr, es un puntero a int...
No hay forma de que pueda retornar un UInt32 por ejemplo, que es la equivalencia a DWORD en C# intentalo.
En todo caso, que valor te debe retornar?. y cual debe pasar por la variable?
También intenta colocando ref antes del tipo de variable u out.