Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

포인터 형 매개 변수를 갖는 C++ DLL의 함수를 C#에서 호출하는 방법

종종 다음과 같은 질문을 보게 되는데요.

C++ dll C#에서 사용하는데 보호된 메모리 오류 떠요 한 번만 도와주세요ㅜ
; https://www.sysnet.pe.kr/3/0/4997

이쯤에서 한번 정리를 해봐야겠습니다. ^^

우선, C/C++ DLL의 함수를 정상적으로 호출하려면 Calling Convention이 맞아야 합니다. 이에 대해서는 지난 글에 잘 정리해 두었으니 참고하시고.

C# 개발자를 위한 Win32 DLL export 함수의 호출 규약 (1) - x86 환경에서의 __cdecl, __stdcall에 대한 Name mangling
; https://www.sysnet.pe.kr/2/0/11132

일단 호출 규약이 맞았다면 이제 매개 변수에 대한 인자 값을 잘 맞춰주는 문제만 남습니다. 이때 C# 개발자들이 어려워하는 것 중의 하나가 바로 C/C++의 포인터를 받는 함수에 대한 interop입니다. 이를 이해하려면 C/C++에서 포인터 변수를 받는 방식에 대한 이해가 필요합니다.

가령 C#에서 다음과 같은 코드를 보겠습니다.

static unsafe void Main(string[] args)
{
    int value = 5;

    PassByValue(value);
    Console.WriteLine(value); // 출력 결과 5

    PassByRef(ref value);
    Console.WriteLine(value); // 출력 결과 50
}

private static void PassByValue(int value)
{
    value = 50;
}

private static void PassByRef(ref int value)
{
    value = 50;
}

저런 코드를 C/C++에서는 다음과 같이 작성할 수 있습니다.

int value = 5;

PassByValue(value);
printf("%d\n", value); // 출력 결과 5

PassByPtr(&value);
printf("%d\n", value); // 출력 결과 50

void PassByValue(int value)
{
    value = 50;
}

void PassByPtr(int *value)
{
    *value = 50;
}

즉, C#의 ref와 같은 역할을 위해 포인터 변수(int *)를 넘겨줌으로써 다룰 수 있게 하는 것입니다. 그런데, 문제는 C/C++의 경우 포인터와 배열의 차이점이 없다는 것입니다. 그래서 다음 코드에서 보는 것처럼 호출 측에서 동일하게 &value 포인터 변수를 전달했지만,

int value = 5;

PassByPtr(&value);
printf("%d\n", value); // 출력 결과 50

PassByArray(&value);
printf("%d\n", value); // 출력 결과 500

void PassByPtr(int *value) // 포인터로도 받을 수 있고,
{
    *value = 50;
}

void PassByArray(int value[]) // 배열로도 받을 수 있음.
{
    value[0] = 500;
}

받는 측의 함수에서는 &value 변수를 int *와, int []로 취향에 맞게 처리할 수 있습니다. 이 때문에, 표면상으로는 포인터를 받는 함수일지라도 내부적으로 그것을 배열로 처리할 수도 있습니다.

int value = 5;

PassByPtr(&value);
printf("%d\n", value); // 출력 결과 500

void PassByPtr(int *value)
{
    value[0] = 500;
}

대개의 경우, 포인터(또는 배열)를 받는 함수가 그것을 내부적으로 배열로 다룬다면 안전하게 접근할 수 있도록 명시적으로 배열의 수를 함께 전달할 수 있게 만듭니다.

int value = 5; // 단일 변수이지만, 
PassByPtr(&value, 1); // 1개의 배열로써 전달

int array[10] = { 0 }; // 10개의 요소를 갖는 배열을,
int *pArray = &array[0];
PassByPtr(pArray, 10); // 명시적으로 10개라고 지정

void PassByPtr(int *value, int len)
{
    for (int i = 0; i < len; i ++)
    {
        value[i] = 500;
    }
}

물론 이것은 해당 함수를 개발하는 프로그래머의 결정에 따르기 때문에 꼭 저런 식으로 개발되었다고 장담할 수 없습니다. 실제로 과거에 많은 수의 C/C++ 함수들 중 문자열 처리의 경우 입력 버퍼의 수를 명시하지 않고 널(\0) 문자를 인식하는 것으로 작성했기 때문에,

char buf[256];
strcpy(buf, "test"); // strcpy 함수는 buf의 배열 크기를 알지 못함

수많은 버퍼 오버런 취약점이 발생하는 원인이 되었습니다. 그래서 나중에는 좀 더 안전한(secure) 함수라고 해서 배열의 크기를 명시하는 버전이 나오게 된 것입니다.

char buf[256];
strcpy_s(buf, 256, "test");




자, 그럼 C/C++ 개발자가 DLL을 만들어 제공하는 함수의 시그니처를 다음과 같이 전달해 줬다고 가정해 보겠습니다.

void ExternC_STD_Func_Ptr(int *value);

C# 개발자는 위의 시그니처를 보면 반드시 C/C++ 개발자에게 물어봐야 합니다. 저 value가 배열이냐? 아니면 순수하게 단일 int 형에 대한 포인터냐? 라고! (물어볼 개발자가 없다면 문서라도 꼼꼼하게 확인해야 합니다.)

만약 단일 int 형에 대한 포인터라면 C#에서 다음과 같이 처리할 수 있습니다.

[DllImport("Win32Project1.dll", SetLastError = true)]
internal static unsafe extern int ExternC_STD_Func_Ptr(int *value);

static unsafe void Main(string[] args)
{
    int value = 5;
    int* pValue = &value;

    ExternC_STD_Func_Ptr(pValue);
}

하지만 배열이라고 한다면, 그 배열의 크기를 묻고 그에 맞게 전달해야 합니다.

[DllImport("Win32Project1.dll", SetLastError = true)]
internal static unsafe extern int ExternC_STD_Func_Ptr(int *value);

static unsafe void Main(string[] args)
{
    int[] array = new int[10];
    fixed (int* pArray = &array[0])
    {
        ExternC_STD_Func_Ptr(pArray);

        for (int i = 0; i < array.Length; i ++)
        {
            Console.Write(array[i] + ",");
        }

        Console.WriteLine();
    }
}

포인터 변수에 대해 위의 규칙 정도만 맞춰주면 AV(Access Violation) 오류로 인한 비정상 종료 문제는 사라질 것입니다.

(첨부 파일은 이 글의 예제 - C#, C/C++ 코드를 포함합니다.)

참고로 COM DLL에 대해서는 다음의 글도 도움이 될 것입니다.

[in, out] 배열을 C#에서 C/C++로 넘기는 방법 - 두 번째 이야기
; https://www.sysnet.pe.kr/2/0/811

[in, out] 배열을 C#에서 C/C++로 넘기는 방법
; https://www.sysnet.pe.kr/2/0/810




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]


donaricano-btn



[최초 등록일: ]
[최종 수정일: 6/8/2018 ]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer@outlook.com

비밀번호

댓글 쓴 사람
 




... [16]  17  18  19  20  21  22  23  24  25  26  27  28  29  30  ...
NoWriterDateCnt.TitleFile(s)
12114정성태1/13/20201476디버깅 기술: 156. C# - PDB 파일로부터 심벌(Symbol) 및 타입(Type) 정보 열거 [1]파일 다운로드3
12113정성태1/12/20202013오류 유형: 590. Visual C++ 빌드 오류 - fatal error LNK1104: cannot open file 'atls.lib' [1]
12112정성태1/12/2020920오류 유형: 589. PowerShell - 원격 Invoke-Command 실행 시 "WinRM cannot complete the operation" 오류 발생
12111정성태3/23/20202048디버깅 기술: 155. C# - KernelMemoryIO 드라이버를 이용해 실행 프로그램을 숨기는 방법(DKOM: Direct Kernel Object Modification) [12]
12110정성태6/23/20201551디버깅 기술: 154. Patch Guard로 인해 블루 스크린(BSOD)가 발생하는 사례 [5]파일 다운로드1
12109정성태1/10/20201212오류 유형: 588. Driver 프로젝트 빌드 오류 - Inf2Cat error -2: "Inf2Cat, signability test failed."
12108정성태1/10/2020917오류 유형: 587. Kernel Driver 시작 시 127(The specified procedure could not be found.) 오류 메시지 발생
12107정성태1/10/20201066.NET Framework: 877. C# - 프로세스의 모든 핸들을 열람 - 두 번째 이야기
12106정성태1/8/20201169VC++: 136. C++ - OSR Driver Loader와 같은 Legacy 커널 드라이버 설치 프로그램 제작 [1]
12105정성태1/8/20201108디버깅 기술: 153. C# - PEB를 조작해 로드된 DLL을 숨기는 방법
12104정성태1/9/20201571DDK: 9. 커널 메모리를 읽고 쓰는 NT Legacy driver와 C# 클라이언트 프로그램 [4]
12103정성태4/23/20202758DDK: 8. Visual Studio 2019 + WDK Legacy Driver 제작- Hello World 예제 [1]파일 다운로드2
12102정성태1/6/20201642디버깅 기술: 152. User 권한(Ring 3)의 프로그램에서 _ETHREAD 주소(및 커널 메모리를 읽을 수 있다면 _EPROCESS 주소) 구하는 방법
12101정성태1/8/20201142.NET Framework: 876. C# - PEB(Process Environment Block)를 통해 로드된 모듈 목록 열람
12100정성태1/3/2020821.NET Framework: 875. .NET 3.5 이하에서 IntPtr.Add 사용
12099정성태1/3/20201190디버깅 기술: 151. Windows 10 - Process Explorer로 확인한 Handle 정보를 windbg에서 조회
12098정성태9/10/20201238.NET Framework: 874. C# - 커널 구조체의 Offset 값을 하드 코딩하지 않고 사용하는 방법 [3]
12097정성태1/2/2020858디버깅 기술: 150. windbg - Wow64, x86, x64에서의 커널 구조체(예: TEB) 구조체 확인
12096정성태1/2/20201171디버깅 기술: 149. C# - DbgEng.dll을 이용한 간단한 디버거 제작
12095정성태12/27/20191349VC++: 135. C++ - string_view의 동작 방식
12094정성태11/23/20201198.NET Framework: 873. C# - 코드를 통해 PDB 심벌 파일 다운로드 방법
12093정성태12/26/20191395.NET Framework: 872. C# - 로딩된 Native DLL의 export 함수 목록 출력파일 다운로드1
12092정성태12/25/20191215디버깅 기술: 148. cdb.exe를 이용해 (ntdll.dll 등에 정의된) 커널 구조체 출력하는 방법
12091정성태12/25/20191866디버깅 기술: 147. pdb 파일을 다운로드하기 위한 symchk.exe 실행에 필요한 최소 파일 [1]
12090정성태12/24/20191164.NET Framework: 871. .NET AnyCPU로 빌드된 PE 헤더의 로딩 전/후 차이점
12089정성태12/23/20191018디버깅 기술: 146. gflags와 _CrtIsMemoryBlock을 이용한 Heap 메모리 손상 여부 체크
... [16]  17  18  19  20  21  22  23  24  25  26  27  28  29  30  ...