Microsoft MVP성태의 닷넷 이야기
글쓴 사람
홈페이지
첨부 파일

C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (2) - x86 환경의 __fastcall

C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (1) - x86 환경에서의 __cdecl, __stdcall에 대한 Name mangling
C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (2) - x86 환경의 __fastcall
C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (3) - x64 환경의 __fastcall과 Name mangling
C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (4) - CLR JIT 컴파일러의 PInvoke 호출 방법
C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (부록 1) - CallingConvention.StdCall, CallingConvention.Cdecl에 상관없이 왜 호출이 잘 될까요?

지난번 글에서, x86 환경 하의 __cdecl, __stdcall 호출 규약과 그 이름 풀이를 살펴봤는데요. 이번에는 동일하게 x86 하에서 __fastcall 호출 규약을 알아보겠습니다.

우선, C/C++ 측에서는 헤더 파일에 다음과 같이 선언하고,

__declspec(dllexport) int __fastcall FAST_Func(int value);
__declspec(dllexport) int __fastcall FAST_Func_By_DEF(int value);

extern "C"
{
    __declspec(dllexport) int __fastcall ExternC_FAST_Func(int value);
    __declspec(dllexport) int __fastcall ExternC_FAST_Func_By_DEF(int value);
}

각각의 정의는 이렇게 해주면 됩니다.

__declspec(dllexport) int __fastcall FAST_Func(int value)
{
    printf("FAST_Func: %d\n", value);
    return 42;
}

__declspec(dllexport) int __fastcall FAST_Func_By_DEF(int value)
{
    printf("FAST_Func_By_DEF: %d\n", value);
    return 42;
}

__declspec(dllexport) int __fastcall ExternC_FAST_Func(int value)
{
    printf("ExternC_FAST_Func: %d\n", value);
    return 42;
}

__declspec(dllexport) int __fastcall ExternC_FAST_Func_By_DEF(int value)
{
    printf("ExternC_FAST_Func_By_DEF: %d\n", value);
    return 42;
}

위의 함수들 중에 "_By_DEF"로 끝나는 함수들은 .def 파일에 정의를 추가해 보겠습니다.

LIBRARY
    EXPORTS
        FAST_Func_By_DEF
        ExternC_FAST_Func_By_DEF

빌드하고 export 함수의 이름을 살펴보면 각각 이렇게 됩니다.

?FAST_Func@@YIHH@Z
FAST_Func_By_DEF
@ExternC_FAST_Func@4
ExternC_FAST_Func_By_DEF

extern "C"를 붙이지 않으면 "?FAST_Func@@YIHH@Z"와 같이 나오는 반면, 붙여주면 "@" 글자를 시작으로 "@바이트수"로 __stdcall과 유사하게 작명이 됩니다.

또한, .def 파일에 정의해 주면 이름 그대로 "FAST_Func_By_DEF", "ExternC_FAST_Func_By_DEF" 이렇게 출력됩니다.




좋은(?) 소식이 하나 있는데요 ^^ 닷넷 개발자 입장에서는 __fastcall을 전혀 염두에 두지 않아도 됩니다. 왜냐하면, 닷넷에서 사용할 수 있는 방법이 없기 때문입니다. 문서에도 나오지만 DllImport의 CallingConvention 에는,

CallingConvention Enumeration
; https://msdn.microsoft.com/en-us/library/system.runtime.interopservices.callingconvention(v=vs.110).aspx

FastCall - This calling convention is not supported.

분명히 FastCall을 사용할 수 없다고 나옵니다. 실제로, 다음과 같이 calling convention을 지정하면,

[DllImport("Win32Project1.dll", CallingConvention = CallingConvention.FastCall)]
internal static extern int ExternC_FAST_Func(int value);

실행 시에 예외가 떨어집니다.

An unhandled exception of type 'System.TypeLoadException' occurred in ConsoleApplication1.exe
Additional information: Invalid unmanaged calling convention: must be one of stdcall, cdecl, or thiscall.

심지어, CallingConvention을 지정하지 않으면 __cdecl과는 다르게 아예 이름 풀이도 안된다는 다음의 예외가 떨어집니다.

An unhandled exception of type 'System.EntryPointNotFoundException' occurred in ConsoleApplication1.exe

Additional information: Unable to find an entry point named 'ExternC_FAST_Func' in DLL 'Win32Project1.dll'.

강제로 EntryPoint를 이용해 실행은 할 수 있지만,

[DllImport("Win32Project1.dll", EntryPoint = "?FAST_Func@@YIHH@Z")]
internal static extern int FAST_Func(int value);

[DllImport("Win32Project1.dll", EntryPoint = "@ExternC_FAST_Func2@4")]
internal static extern int ExternC_FAST_Func(int value);

...[생략]...

{
    FAST_Func(5);
    ExternC_FAST_Func(8);
}

인자 전달에 대한 스택 사용 규칙이 맞지 않아 출력이 엉뚱하게 나옵니다.

FAST_Func: 1918189188
ExternC_FAST_Func: 1918189188

(원래 출력은 "FAST_Func: 5"와 "ExternC_FAST_Func: 8"이어야 함.)

물론, Visual Studio의 "F5 (Start Debugging)"으로 실행하면 이런 부작용을 방지하기 위해 다음과 같은 경고성 예외를 발생시킵니다.

Managed Debugging Assistant 'PInvokeStackImbalance' has detected a problem in 'C:\ConsoleApplication1\bin\x86\Debug\ConsoleApplication1.exe'.

Additional information: A call to PInvoke function 'ConsoleApplication1!Program::FAST_Func' has unbalanced the stack. This is likely because the managed PInvoke signature does not match the unmanaged target signature. Check that the calling convention and parameters of the PInvoke signature match the target unmanaged signature.

If there is a handler for this exception, the program may be safely continued.

위의 오류는, DllImport의 기본 호출 규약이 __stdcall인데 __cdecl인 경우 "CallingConvention = CallingConvention.Cdecl"을 명시하지 않는 경우 잠재적인 버그가 존재할 수 있다고 했던 지난번 글의 설명과 유사합니다. 단지, 그때는 __stdcall과 __cdecl의 유사성으로 인해 정상적으로 실행되었지만, __fastcall의 경우에는 __stdcall과 너무나 상이한 인자 전달 규칙을 가지기 때문에 저렇게 엉뚱한 값이 나와버리는 것입니다.

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




정리하면, x86에서의 __fastcall로 export된 함수는 닷넷에서 사용할 수 없으므로 만약 그런 함수가 여러분들의 native DLL에 있다면 해당 개발자에게 호출 규약을 바꿔달라고 요청해야 합니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]





[최초 등록일: ]
[최종 수정일: 2/6/2017 ]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer@outlook.com

비밀번호

댓글 쓴 사람
 



2019-03-29 09시10분
[호갱] 항상 감사드립니다.
[손님]

... 31  32  33  34  35  36  37  38  39  40  41  42  [43]  44  45  ...
NoWriterDateCnt.TitleFile(s)
11161정성태3/24/20174828오류 유형: 379. ICOMAdminCatalog.GetCollection 호출 시 0x80070422 예외 발생
11160정성태3/23/20175733.NET Framework: 649. ASP.NET - Server cannot append header after HTTP headers have been sent. (HTTP 헤더를 보낸 후에는 서버에서 헤더를 추가할 수 없습니다.)파일 다운로드1
11159정성태3/23/20174819Windows: 136. Memory-mapped File은 Private Bytes 크기에 포함될까요?파일 다운로드1
11158정성태3/22/20174834디버깅 기술: 85. Windbg - SOS 디버깅 사례 System.NullReferenceException 예외 추적
11157정성태3/22/20175304.NET Framework: 648. Dictionary<TKey, TValue>를 deep copy하는 방법파일 다운로드1
11156정성태3/21/20175070.NET Framework: 647. 닷넷(C#) 코드로 인증서 요청 코드 만드는 방법파일 다운로드1
11155정성태3/21/20175121.NET Framework: 646. SslStream의 CipherAlgorithm 선택이 가능할까요?파일 다운로드1
11154정성태3/5/201712990VC++: 109. DLL에서 STL 객체를 인자/반환값으로 갖는 함수를 제공할 때, 그 함수를 외부에서 사용하는 경우 비정상 종료한다면? [2]파일 다운로드1
11153정성태3/5/201712347VC++: 108. DLL에 정의된 C++ template 클래스의 복사 생성자 문제파일 다운로드1
11152정성태10/19/20196226VC++: 107. VirtualAlloc, HeapAlloc, GlobalAlloc, LocalAlloc, malloc, new의 차이점
11151정성태10/19/20196308VC++: 106. DLL 개발자가 주의해야 할 Secure CRT 함수 사용파일 다운로드1
11150정성태2/21/20174600.NET Framework: 645. Visual Studio Fakes 기능에서 Shim... 클래스가 생성되지 않는 경우
11149정성태2/21/20176804오류 유형: 378. A 64-bit test cannot run in a 32-bit process. Specify platform as X64 to force test run in X64 mode on X64 machine.
11148정성태2/20/20175898.NET Framework: 644. AppDomain에 대한 단위 테스트 시 알아야 할 사항
11147정성태2/19/20177277오류 유형: 377. Windows 10에서 Fake 어셈블리를 생성하는 경우 빌드 시 The type or namespace name '...' does not exist in the namespace 컴파일 오류 발생
11146정성태2/19/20176431오류 유형: 376. Error VSP1033: The file '...' does not contain a recognized executable image. [2]
11145정성태2/16/20176130.NET Framework: 643. 작업자 프로세스(w3wp.exe)가 재시작되는 시점을 알 수 있는 방법 - 두 번째 이야기 [4]파일 다운로드1
11144정성태2/6/20178960.NET Framework: 642. C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (부록 1) - CallingConvention.StdCall, CallingConvention.Cdecl에 상관없이 왜 호출이 잘 될까요?파일 다운로드1
11143정성태2/5/20176462.NET Framework: 641. [Out] 형식의 int * 인자를 가진 함수에 대한 P/Invoke 호출 방법파일 다운로드1
11142정성태10/19/201910453.NET Framework: 640. 닷넷 - 배열 크기의 한계 [2]파일 다운로드1
11141정성태3/21/20177422.NET Framework: 639. C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (4) - CLR JIT 컴파일러의 P/Invoke 호출 규약 [1]파일 다운로드1
11140정성태1/27/20175998.NET Framework: 638. RSAParameters와 RSA파일 다운로드1
11139정성태2/6/20176414.NET Framework: 637. C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (3) - x64 환경의 __fastcall과 Name mangling [1]파일 다운로드1
11138정성태1/20/20176070VS.NET IDE: 113. 프로젝트 생성시 부터 "Enable the Visual Studio hosting process" 옵션을 끄는 방법 - 두번째 이야기 [3]
11137정성태1/20/20175489Windows: 135. AD에 참여한 컴퓨터로 RDP 연결 시 배경 화면을 못 바꾸는 정책
11136정성태3/12/20206222오류 유형: 375. Hyper-V 내에 구성한 Active Directory 환경의 시간 구성 방법 - 두 번째 이야기
... 31  32  33  34  35  36  37  38  39  40  41  42  [43]  44  45  ...