C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (2) - x86 환경의 __fastcall
지난번 글에서, x86 환경 하의 __cdecl, __stdcall 호출 규약과 그 이름 풀이를 살펴봤는데요. 이번에는 동일하게 x86 하에서 __fastcall 호출 규약을 알아보겠습니다.
우선, C/C++ 측에서는 헤더 파일에 다음과 같이 선언하고,
__declspec(dllexport) int __fastcall FAST_Func(int value);
__declspec(dllexport) int __fastcall FAST_Func_By_DEF(int value);
extern "C"
{
__declspec(dllexport) int __fastcall ExternC_FAST_Func(int value);
__declspec(dllexport) int __fastcall ExternC_FAST_Func_By_DEF(int value);
}
각각의 정의는 이렇게 해주면 됩니다.
__declspec(dllexport) int __fastcall FAST_Func(int value)
{
printf("FAST_Func: %d\n", value);
return 42;
}
__declspec(dllexport) int __fastcall FAST_Func_By_DEF(int value)
{
printf("FAST_Func_By_DEF: %d\n", value);
return 42;
}
__declspec(dllexport) int __fastcall ExternC_FAST_Func(int value)
{
printf("ExternC_FAST_Func: %d\n", value);
return 42;
}
__declspec(dllexport) int __fastcall ExternC_FAST_Func_By_DEF(int value)
{
printf("ExternC_FAST_Func_By_DEF: %d\n", value);
return 42;
}
위의 함수들 중에 "_By_DEF"로 끝나는 함수들은 .def 파일에 정의를 추가해 보겠습니다.
LIBRARY
EXPORTS
FAST_Func_By_DEF
ExternC_FAST_Func_By_DEF
빌드하고 export 함수의 이름을 살펴보면 각각 이렇게 됩니다.
?FAST_Func@@YIHH@Z
FAST_Func_By_DEF
@ExternC_FAST_Func@4
ExternC_FAST_Func_By_DEF
extern "C"를 붙이지 않으면 "?FAST_Func@@YIHH@Z"와 같이 나오는 반면, 붙여주면 "@" 글자를 시작으로 "@바이트수"로 __stdcall과 유사하게 작명이 됩니다.
또한, .def 파일에 정의해 주면 이름 그대로 "FAST_Func_By_DEF", "ExternC_FAST_Func_By_DEF" 이렇게 출력됩니다.
좋은(?) 소식이 하나 있는데요 ^^ 닷넷 개발자 입장에서는 __fastcall을 전혀 염두에 두지 않아도 됩니다. 왜냐하면, 닷넷에서 사용할 수 있는 방법이 없기 때문입니다. 문서에도 나오지만 DllImport의 CallingConvention 에는,
CallingConvention Enumeration
; https://learn.microsoft.com/en-us/dotnet/api/system.runtime.interopservices.callingconvention
FastCall - This calling convention is not supported.
분명히 FastCall을 사용할 수 없다고 나옵니다. 실제로, 다음과 같이 calling convention을 지정하면,
[DllImport("Win32Project1.dll", CallingConvention = CallingConvention.FastCall)]
internal static extern int ExternC_FAST_Func(int value);
실행 시에 예외가 떨어집니다.
An unhandled exception of type 'System.TypeLoadException' occurred in ConsoleApplication1.exe
Additional information: Invalid unmanaged calling convention: must be one of stdcall, cdecl, or thiscall.
심지어, CallingConvention을 지정하지 않으면 __cdecl과는 다르게 아예 이름 풀이도 안된다는 다음의 예외가 떨어집니다.
An unhandled exception of type 'System.EntryPointNotFoundException' occurred in ConsoleApplication1.exe
Additional information: Unable to find an entry point named 'ExternC_FAST_Func' in DLL 'Win32Project1.dll'.
강제로 EntryPoint를 이용해 실행은 할 수 있지만,
[DllImport("Win32Project1.dll", EntryPoint = "?FAST_Func@@YIHH@Z")]
internal static extern int FAST_Func(int value);
[DllImport("Win32Project1.dll", EntryPoint = "@ExternC_FAST_Func2@4")]
internal static extern int ExternC_FAST_Func(int value);
...[생략]...
{
FAST_Func(5);
ExternC_FAST_Func(8);
}
인자 전달에 대한 스택 사용 규칙이 맞지 않아 출력이 엉뚱하게 나옵니다.
FAST_Func: 1918189188
ExternC_FAST_Func: 1918189188
(원래 출력은 "FAST_Func: 5"와 "ExternC_FAST_Func: 8"이어야 함.)
물론, Visual Studio의 "F5 (Start Debugging)"으로 실행하면 이런 부작용을 방지하기 위해 다음과 같은 경고성 예외를 발생시킵니다.
Managed Debugging Assistant 'PInvokeStackImbalance' has detected a problem in 'C:\ConsoleApplication1\bin\x86\Debug\ConsoleApplication1.exe'.
Additional information: A call to PInvoke function 'ConsoleApplication1!Program::FAST_Func' has unbalanced the stack. This is likely because the managed PInvoke signature does not match the unmanaged target signature. Check that the calling convention and parameters of the PInvoke signature match the target unmanaged signature.
If there is a handler for this exception, the program may be safely continued.
위의 오류는,
DllImport의 기본 호출 규약이 __stdcall인데 __cdecl인 경우 "CallingConvention = CallingConvention.Cdecl"을 명시하지 않는 경우 잠재적인 버그가 존재할 수 있다고 했던 지난번 글의 설명과 유사합니다. 단지, 그때는 __stdcall과 __cdecl의 유사성으로 인해 정상적으로 실행되었지만, __fastcall의 경우에는 __stdcall과 너무나 상이한 인자 전달 규칙을 가지기 때문에 저렇게 엉뚱한 값이 나와버리는 것입니다.
(
첨부 파일은 이 글의 예제 코드를 포함합니다.)
정리하면, x86에서의 __fastcall로 export된 함수는 닷넷에서 사용할 수 없으므로 만약 그런 함수가 여러분들의 native DLL에 있다면 해당 개발자에게 호출 규약을 바꿔달라고 요청해야 합니다.
[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]