Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 1개 있습니다.)
(시리즈 글이 5개 있습니다.)
.NET Framework: 634. C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (1) - x86 환경에서의 __cdecl, __stdcall에 대한 Name mangling
; https://www.sysnet.pe.kr/2/0/11132

.NET Framework: 635. C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (2) - x86 환경의 __fastcall
; https://www.sysnet.pe.kr/2/0/11133

.NET Framework: 637. C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (3) - x64 환경의 __fastcall과 Name mangling
; https://www.sysnet.pe.kr/2/0/11139

.NET Framework: 639. C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (4) - CLR JIT 컴파일러의 P/Invoke 호출 규약
; https://www.sysnet.pe.kr/2/0/11141

.NET Framework: 642. C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (부록 1) - CallingConvention.StdCall, CallingConvention.Cdecl에 상관없이 왜 호출이 잘 될까요?
; https://www.sysnet.pe.kr/2/0/11144




C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (2) - x86 환경의 __fastcall

지난번 글에서, x86 환경 하의 __cdecl, __stdcall 호출 규약과 그 이름 풀이를 살펴봤는데요. 이번에는 동일하게 x86 하에서 __fastcall 호출 규약을 알아보겠습니다.

우선, C/C++ 측에서는 헤더 파일에 다음과 같이 선언하고,

__declspec(dllexport) int __fastcall FAST_Func(int value);
__declspec(dllexport) int __fastcall FAST_Func_By_DEF(int value);

extern "C"
{
    __declspec(dllexport) int __fastcall ExternC_FAST_Func(int value);
    __declspec(dllexport) int __fastcall ExternC_FAST_Func_By_DEF(int value);
}

각각의 정의는 이렇게 해주면 됩니다.

__declspec(dllexport) int __fastcall FAST_Func(int value)
{
    printf("FAST_Func: %d\n", value);
    return 42;
}

__declspec(dllexport) int __fastcall FAST_Func_By_DEF(int value)
{
    printf("FAST_Func_By_DEF: %d\n", value);
    return 42;
}

__declspec(dllexport) int __fastcall ExternC_FAST_Func(int value)
{
    printf("ExternC_FAST_Func: %d\n", value);
    return 42;
}

__declspec(dllexport) int __fastcall ExternC_FAST_Func_By_DEF(int value)
{
    printf("ExternC_FAST_Func_By_DEF: %d\n", value);
    return 42;
}

위의 함수들 중에 "_By_DEF"로 끝나는 함수들은 .def 파일에 정의를 추가해 보겠습니다.

LIBRARY
    EXPORTS
        FAST_Func_By_DEF
        ExternC_FAST_Func_By_DEF

빌드하고 export 함수의 이름을 살펴보면 각각 이렇게 됩니다.

?FAST_Func@@YIHH@Z
FAST_Func_By_DEF
@ExternC_FAST_Func@4
ExternC_FAST_Func_By_DEF

extern "C"를 붙이지 않으면 "?FAST_Func@@YIHH@Z"와 같이 나오는 반면, 붙여주면 "@" 글자를 시작으로 "@바이트수"로 __stdcall과 유사하게 작명이 됩니다.

또한, .def 파일에 정의해 주면 이름 그대로 "FAST_Func_By_DEF", "ExternC_FAST_Func_By_DEF" 이렇게 출력됩니다.




좋은(?) 소식이 하나 있는데요 ^^ 닷넷 개발자 입장에서는 __fastcall을 전혀 염두에 두지 않아도 됩니다. 왜냐하면, 닷넷에서 사용할 수 있는 방법이 없기 때문입니다. 문서에도 나오지만 DllImport의 CallingConvention에는,

CallingConvention Enumeration
; https://learn.microsoft.com/en-us/dotnet/api/system.runtime.interopservices.callingconvention

FastCall - This calling convention is not supported.

분명히 FastCall을 사용할 수 없다고 나옵니다. 실제로, 다음과 같이 calling convention을 지정하면,

[DllImport("Win32Project1.dll", CallingConvention = CallingConvention.FastCall)]
internal static extern int ExternC_FAST_Func(int value);

실행 시에 예외가 떨어집니다.

An unhandled exception of type 'System.TypeLoadException' occurred in ConsoleApplication1.exe
Additional information: Invalid unmanaged calling convention: must be one of stdcall, cdecl, or thiscall.

심지어, CallingConvention을 지정하지 않으면 __cdecl과는 다르게 아예 이름 풀이도 안된다는 다음의 예외가 떨어집니다.

An unhandled exception of type 'System.EntryPointNotFoundException' occurred in ConsoleApplication1.exe

Additional information: Unable to find an entry point named 'ExternC_FAST_Func' in DLL 'Win32Project1.dll'.

강제로 EntryPoint를 이용해 실행은 할 수 있지만,

[DllImport("Win32Project1.dll", EntryPoint = "?FAST_Func@@YIHH@Z")]
internal static extern int FAST_Func(int value);

[DllImport("Win32Project1.dll", EntryPoint = "@ExternC_FAST_Func2@4")]
internal static extern int ExternC_FAST_Func(int value);

...[생략]...

{
    FAST_Func(5);
    ExternC_FAST_Func(8);
}

인자 전달에 대한 스택 사용 규칙이 맞지 않아 출력이 엉뚱하게 나옵니다.

FAST_Func: 1918189188
ExternC_FAST_Func: 1918189188

(원래 출력은 "FAST_Func: 5"와 "ExternC_FAST_Func: 8"이어야 함.)

물론, Visual Studio의 "F5 (Start Debugging)"으로 실행하면 이런 부작용을 방지하기 위해 다음과 같은 경고성 예외를 발생시킵니다.

Managed Debugging Assistant 'PInvokeStackImbalance' has detected a problem in 'C:\ConsoleApplication1\bin\x86\Debug\ConsoleApplication1.exe'.

Additional information: A call to PInvoke function 'ConsoleApplication1!Program::FAST_Func' has unbalanced the stack. This is likely because the managed PInvoke signature does not match the unmanaged target signature. Check that the calling convention and parameters of the PInvoke signature match the target unmanaged signature.

If there is a handler for this exception, the program may be safely continued.

위의 오류는, DllImport의 기본 호출 규약이 __stdcall인데 __cdecl인 경우 "CallingConvention = CallingConvention.Cdecl"을 명시하지 않는 경우 잠재적인 버그가 존재할 수 있다고 했던 지난번 글의 설명과 유사합니다. 단지, 그때는 __stdcall과 __cdecl의 유사성으로 인해 정상적으로 실행되었지만, __fastcall의 경우에는 __stdcall과 너무나 상이한 인자 전달 규칙을 가지기 때문에 저렇게 엉뚱한 값이 나와버리는 것입니다.

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




정리하면, x86에서의 __fastcall로 export된 함수는 닷넷에서 사용할 수 없으므로 만약 그런 함수가 여러분들의 native DLL에 있다면 해당 개발자에게 호출 규약을 바꿔달라고 요청해야 합니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 6/1/2025]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2019-03-29 09시10분
[호갱] 항상 감사드립니다.
[guest]

... 106  107  [108]  109  110  111  112  113  114  115  116  117  118  119  120  ...
NoWriterDateCnt.TitleFile(s)
11315정성태9/29/201743987기타: 68. "시작하세요! C# 6.0 프로그래밍: 기본 문법부터 실전 예제까지" 구매하신 분들을 위한 C# 7.0/7.1 추가 문법 PDF [8]
11314정성태9/28/201724922디버깅 기술: 98. windbg - 덤프 파일로부터 닷넷 버전 확인하는 방법
11313정성태9/25/201723429디버깅 기술: 97. windbg - 메모리 덤프로부터 DateTime 형식의 값을 알아내는 방법파일 다운로드1
11312정성태9/25/201726859.NET Framework: 685. C# - 구조체(값 형식)의 필드를 리플렉션을 이용해 값을 바꾸는 방법파일 다운로드1
11311정성태9/20/201718934.NET Framework: 684. System.Diagnostics.Process 객체의 명시적인 해제 권장
11310정성태9/19/201724774.NET Framework: 683. WPF의 Window 객체를 생성했는데 GC 수집 대상이 안 되는 이유 [3]
11309정성태9/13/201721390개발 환경 구성: 335. Octave의 명령 창에서 실행한 결과를 복사하는 방법
11308정성태9/13/201723565VS.NET IDE: 121. 비주얼 스튜디오에서 일부 텍스트 파일을 무조건 메모장으로만 여는 문제파일 다운로드1
11307정성태9/13/201726351오류 유형: 421. System.Runtime.InteropServices.SEHException - 0x80004005
11306정성태9/12/201724440.NET Framework: 682. 아웃룩 사용자를 위한 중국어 스팸 필터 Add-in
11305정성태9/12/201725677개발 환경 구성: 334. 기존 프로젝트를 Visual Studio를 이용해 Github의 신규 생성된 repo에 올리는 방법 [1]
11304정성태9/11/201722301개발 환경 구성: 333. 3ds Max를 Hyper-V VM에서 실행하는 방법
11303정성태9/11/201726450개발 환경 구성: 332. Inno Setup 파일의 관리자 권한을 제거하는 방법
11302정성태9/11/201721993개발 환경 구성: 331. SQL Server Express를 위한 방화벽 설정
11301정성태9/11/201719999오류 유형: 420. SQL Server Express 연결 오류 - A network-related or instance-specific error occurred while establishing a connection to SQL Server.
11300정성태9/10/201725672.NET Framework: 681. dotnet.exe - run, exec, build, restore, publish 차이점 [3]
11299정성태9/9/201724075개발 환경 구성: 330. Hyper-V VM의 Internal Network를 Private 유형으로 만드는 방법
11298정성태9/8/201727691VC++: 119. EnumProcesses / EnumProcessModules API 사용 시 주의점 [1]
11297정성태9/8/201724262디버깅 기술: 96. windbg - 풀 덤프에 포함된 모든 닷넷 모듈을 파일로 저장하는 방법
11296정성태9/8/201725831웹: 36. Edge - "이 웹 사이트는 이전 기술에서 실행되며 Internet Explorer에서만 작동합니다." 끄는 방법
11295정성태9/7/201724718디버깅 기술: 95. Windbg - .foreach 사용법
11294정성태9/4/201723835개발 환경 구성: 329. 마이크로소프트의 CoreCLR 프로파일러 예제 빌드 방법 [1]
11293정성태9/4/201725224개발 환경 구성: 328. Visual Studio(devenv.exe)를 배치 파일(.bat)을 통해 실행하는 방법
11292정성태9/4/201723467오류 유형: 419. Cannot connect to WMI provider - Invalid class [0x80041010]
11291정성태9/3/201723568개발 환경 구성: 327. 아파치 서버 2.4를 위한 mod_aspdotnet 마이그레이션
11290정성태9/3/201728040개발 환경 구성: 326. 아파치 서버에서 ASP.NET을 실행하는 mod_aspdotnet 모듈 [2]
... 106  107  [108]  109  110  111  112  113  114  115  116  117  118  119  120  ...