Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

C# - x86/x64 환경에 따라 달라지는 P/Invoke 함수의 export 이름

다음의 글은,

C# - x86 실행 환경에서 SECURITY_ATTRIBUTES 구조체를 CreateEvent에 전달할 때 예외 발생
; https://www.sysnet.pe.kr/2/0/11130

사실, 제가 CreateEvent Win32 API를 P/Invoke 테스트하면서 첫 번째 인자를 실수로 포인터가 아닌 구조체 값을 그대로 전달해 발생한 문제입니다. 재미있는 것은, 저 글에 대한 재현 소스 코드를 작성하면서 희한한 현상으로 보이는 ^^; 문제를 접하게 되었는데 그에 대해 하나씩 풀어낸 과정을 기록해 보겠습니다.




현상을 설명하기 위해, 우선 C++로 다음의 소스 코드를 가진 Win32 DLL 프로젝트를 준비합니다.

// Header 파일
#pragma pack( push, 1 )
struct TESTATTR
{
    int Age;
    int *Dummy;
};
#pragma pack(pop)

extern "C"
{
    __declspec(dllexport) void __stdcall fnWin32Project1(TESTATTR *pAttr);
}

// 소스 코드 파일
#include "stdafx.h"
#include <stdio.h>
#include "Win32Project1.h"

__declspec(dllexport) void __stdcall fnWin32Project1(TESTATTR *pAttr)
{
    printf("C++: %d, %d\n", pAttr->Age, pAttr->Dummy);

    pAttr->Age++;
    pAttr->Dummy++;
}

주의해서 볼 것은, TESTATTR 구조체를 받는 형식이 포인터라는 점입니다. 그다음, C#에서는 C++의 DLL에서 export시킨 fnWin32Project1을 사용하되,

using System;
using System.Runtime.InteropServices;

class Program
{
    [StructLayout(LayoutKind.Sequential, Pack = 1)]
    public struct TESTATTR
    {
        public int Age;
        public IntPtr Dummy;
    }

    [DllImport("Win32Project1.dll", CharSet = CharSet.Auto, SetLastError = true)]
    internal static extern void fnWin32Project1(TESTATTR attr);

    static void Main(string[] args)
    {
        TESTATTR testAttr = new TESTATTR();

        testAttr.Age = 2;
        testAttr.Dummy = new IntPtr(5);

        fnWin32Project1(testAttr);

        Console.WriteLine(string.Format("C#: {0}, {1}", testAttr.Age, testAttr.Dummy));
    }
}

보는 바와 같이 (포인터가 아닌) 구조체 그대로 받는 것입니다. 이렇게 하고 x86 빌드로 실행하면 fnWin32Project1에서 다음과 같은 예외가 발생합니다.

An unhandled exception of type 'System.EntryPointNotFoundException' occurred in NullDaclEvent.exe

Additional information: Unable to find an entry point named 'fnWin32Project1' in DLL 'Win32Project1.dll'.

반면, x64로 빌드하면 정상적인 것처럼 실행됩니다.

여기서 이상한 점은, 왜? x86에서는 해당 API를 못 찾는다고 하고, 반면 x64에서는 잘 찾아서 호출에 성공한 것일까요?

이유는, x86의 경우 Win32 DLL 측에서 fnWin32Project1 함수에 대한 export 이름을 (stdcall 호출 규약에 따라) 다음과 같이 설정하기 때문입니다.

_fnWin32Project1@4

그런데, C# 측의 DllImport에서는 첫 번째 인자를 구조체로 전달했으므로 그 크기에 따라 "_fnWin32Project1@8" 함수를 찾으려 하므로 EntryPointNotFoundException 오류가 발생합니다. 하지만 x64 빌드에서는 모든 호출 규약이 fastcall로 정리가 되었으므로 무조건 export 이름을 "fnWin32Project1"로 정하기 때문에 C#의 호출 코드에서 문제없이 함수를 찾을 수 있고 운 좋게 실행까지 된 것입니다.




그런데, 한 가지 의문이 더 남습니다. 그렇다면 CreateEvent를 호출했을 때는 왜? x86 환경에서 EntryPointNotFoundException이 발생하지 않았냐는 것입니다.

그것은, Windows DLL들의 경우 함수들이 dllexport가 아닌, "def" 파일 내에 정의를 해 export 하므로,

LIBRARY

EXPORTS
   ...[생략]...
   CreateEventW
   ...[생략]...

mangling 이름이 "_CreateEventW@16"이 아닌 "CreateEventW"로 되기 때문에 C# 측에서도 정상적으로 찾을 수 있었던 것입니다.

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




정리해 보면, x64 C# 응용 프로그램의 경우 Win32 API에 대한 P/Invoke DllImport 구문을 신경 써서 잘 확인해야 합니다. (저처럼, 무심코 포인터 인자를 그냥 구조체로 넘겨 주면 해석할 수 없는 오류로 고생할 수 있습니다. ^^;)

참고로, 다음의 글도 읽어보시고.

C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (3) - x64 환경의 __fastcall과 Name mangling
; https://www.sysnet.pe.kr/2/0/11139




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 10/20/2020]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




... 46  47  [48]  49  50  51  52  53  54  55  56  57  58  59  60  ...
NoWriterDateCnt.TitleFile(s)
12431정성태11/27/20209167.NET Framework: 976. UnmanagedCallersOnly + C# 9.0 함수 포인터 사용 시 x86 빌드에서 오동작하는 문제파일 다운로드1
12430정성태11/27/20209907오류 유형: 686. Ubuntu - E: The repository 'cdrom://...' does not have a Release file.
12429정성태11/25/20209984디버깅 기술: 175. windbg - 특정 Win32 API에서 BP가 안 걸리는 경우
12428정성태11/25/20208921VS.NET IDE: 154. Visual Studio - .NET Core App 실행 시 dotnet.exe 실행 화면만 나오는 문제
12427정성태11/24/202010065.NET Framework: 975. .NET Core를 직접 호스팅해 (runtimeconfig.json 없이) EXE만 배포해 실행파일 다운로드1
12426정성태11/24/20208655오류 유형: 685. WinDbg Preview - error InitTypeRead
12425정성태11/24/20209704VC++: 141. Visual C++ - "Treat Warnings As Errors" 옵션이 꺼져 있는데도 일부 경고가 에러 처리되는 경우
12424정성태11/24/202010130VC++: 140. C++의 연산자 동의어(operator synonyms), 대체 토큰 [1]
12423정성태11/22/202011055.NET Framework: 974. C# 9.0 - (16) 제약 조건이 없는 형식 매개변수 주석(Unconstrained type parameter annotations)파일 다운로드1
12422정성태11/21/20208869.NET Framework: 973. .NET 5, .NET Framework에서만 허용하는 UnmanagedCallersOnly 사용예파일 다운로드1
12421정성태11/19/20208599.NET Framework: 972. DNNE가 출력한 NE DLL을 직접 생성하는 방법파일 다운로드1
12420정성태11/19/20207790오류 유형: 684. Visual C++ - MSIL .netmodule or module compiled with /GL found; restarting link with /LTCG; add /LTCG to the link command line to improve linker performance
12419정성태11/19/20209000VC++: 139. Visual C++ - .NET Core의 nethost.lib와 정적 링크파일 다운로드1
12418정성태11/19/202011088오류 유형: 683. Visual C++ - error LNK2038: mismatch detected for 'RuntimeLibrary': value 'MT_StaticRelease' doesn't match value 'MDd_DynamicDebug'파일 다운로드1
12417정성태11/19/20208467오류 유형: 682. Visual C++ - warning LNK4099: PDB '...pdb' was not found with '...lib(pch.obj)' or at '...pdb'; linking object as if no debug info
12416정성태11/19/20209751오류 유형: 681. Visual C++ - error LNK2001: unresolved external symbol _CrtDbgReport
12415정성태11/18/20209780.NET Framework: 971. UnmanagedCallersOnly 특성과 DNNE 사용파일 다운로드1
12414정성태11/18/202010848VC++: 138. x64 빌드에서 extern "C"가 아닌 경우 ___cdecl name mangling 적용 [4]파일 다운로드1
12413정성태11/17/202010552.NET Framework: 970. .NET 5 / .NET Core - UnmanagedCallersOnly 특성을 사용한 함수 내보내기파일 다운로드1
12412정성태11/16/202012813.NET Framework: 969. .NET Framework 및 .NET 5 - UnmanagedCallersOnly 특성 사용파일 다운로드1
12411정성태11/12/20209778오류 유형: 680. C# 9.0 - Error CS8889 The target runtime doesn't support extensible or runtime-environment default calling conventions.
12410정성태11/12/20209732디버깅 기술: 174. windbg - System.TypeLoadException 예외 분석 사례
12409정성태11/12/202011149.NET Framework: 968. C# 9.0의 Function pointer를 이용한 함수 주소 구하는 방법파일 다운로드1
12408정성태11/9/202022443도서: 시작하세요! C# 9.0 프로그래밍 [8]
12407정성태11/9/202011415.NET Framework: 967. "clr!JIT_DbgIsJustMyCode" 호출이 뭘까요?
12406정성태11/8/202012980.NET Framework: 966. C# 9.0 - (15) 최상위 문(Top-level statements) [5]파일 다운로드1
... 46  47  [48]  49  50  51  52  53  54  55  56  57  58  59  60  ...