Tenes que crear una DLL con funciones de tipo STDCALL, las mismas que usa Windows en casi todas sus funciones.
Despues declaras la funcion con este estilo:
Declare Function MessageBox Lib "user32" Alias "MessageBoxA" (ByVal hwnd As Long, ByVal lpText As String, ByVal lpCaption As String, ByVal wType As Long) As Long
Igual que las funciones de la API de Windows.