Microsoft MVP성태의 닷넷 이야기
.NET Framework: 133. CallbackOnCollectedDelegate was detected [링크 복사], [링크+제목 복사],
조회: 23213
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 6개 있습니다.)

CallbackOnCollectedDelegate was detected


고객사에서 재미있는 리포트가 전달되어왔습니다. 얼마 전, 해당 고객사에서는 .NET 응용 프로그램에서 Win32 DLL을 호출하는 코드를 만들어야했는데, 이 과정에서 Win32 DLL에 .NET에서 만들어진 메서드를 콜백으로 전달해야 하는 것을 문의해왔었습니다.

당연히, delegate를 이용해서 전달하라고 알려줬지요. 고객사에서는 제가 준 샘플 코드를 동일하게 만들지 않고 나름대로의 생략과정을 거쳐서 아래와 같은 식으로 코드를 만들었습니다.

public delegate void 
    ByteArrayFunctionHandler([MarshalAs(UnmanagedType.LPArray, SizeConst = 6)] byte[] byteBuffer);

[DllImport("TestNativeAPI.dll")]
public static extern bool fnTestNativeAPI(ByteArrayFunctionHandler handler);

public Form1()
{
    InitializeComponent();

    fnTestNativeAPI(testFunc); // C/C++에 .NET 함수 포인터를 전달
}

void testFunc(byte[] byteBuffer) // Win32 DLL에서 콜백으로 testFunc을 호출
{
    foreach (byte aByte in byteBuffer)
    {
        Debug.WriteLine(aByte);
    }
}

위의 코드는 고객사가 전달해 준 코드를 다른 식으로 해석한 것이고 fnTestNativeAPI를 호출한 이후 꽤 많은 코드가 더 있는 상황이었습니다.

그런데, 여기서 문제가 발생한 것입니다. 콜백을 호출하게 되는 Win32 DLL의 함수를 호출하면 여지없이 다음과 같은 오류가 발생하는 것이었습니다.

[그림 1: CallbackOnCollectedDelegate 오류]
cpp_function_pointer_interop_1.png

CallbackOnCollectedDelegate was detected

Message: A callback was made on a garbage collected delegate of type 'WindowsFormsApplication1!WindowsFormsApplication1.Form1+ByteArrayFunctionHandler::Invoke'. This may cause application crashes, corruption and data loss. When passing delegates to unmanaged code, they must be kept alive by the managed application until it is guaranteed that they will never be called.



보자마자 느낌이 팍 오시는 분이 계시겠지요? ^^

그렇습니다. Managed 환경의 delegate 인스턴스를 Native에 전달했으니 Garbage Collector가 구동된 이후 delegate 인스턴스가 정리되어버린 것입니다. 그러니, 이후에 native에서 삭제된 인스턴스의 delegate 값으로 호출하니 "CallbackOnCollectedDelegate"라는 오류 메시지가 출력된 것입니다.

그렇다면 어떻게 고쳐야 할까요?
GC에 의해서 인스턴스가 정리되지 않도록 참조 포인터를 하나라도 유지하고 있으면 되는 것입니다. 이를 위해 다음과 같이 타입 멤버로 들고 있는 것도 좋은 방법이 될 수 있습니다.

ByteArrayFunctionHandler handler; // 참조 카운트 유지

public Form1()
{
    InitializeComponent();

    this.handler = new ByteArrayFunctionHandler(testFunc);
    fnTestNativeAPI(this.handler);
}

이렇게 되면 this.handler 인스턴스가 타입 멤버로 참조 카운트를 유지하고 있기 때문에 오류가 발생하지 않습니다. 물론, 아래와 같이 테스트를 해보면 다시 오류가 발생합니다.

public Form1()
{
    InitializeComponent();

    this.handler = new ByteArrayFunctionHandler(testFunc);
    fnTestNativeAPI(this.handler);
    this.handler = null; // 참조 카운트 제거
}

첨부된 솔루션 파일은 위의 코드를 테스트해볼 수 있도록 Win32 DLL 프로젝트와 WinForm 닷넷 프로젝트를 포함하고 있습니다.

이것과 연결되는 것이 MDA(Managed Debugging Assistants) 기능인데, 이 부분은 나중에 ^^ 설명드리도록 하겠습니다.

[다운로드: 예제 솔루션]



[이 토픽에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 7/10/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2023-01-31 02시47분
[activedesk] 박수를 보냅니다....
[guest]

... [61]  62  63  64  65  66  67  68  69  70  71  72  73  74  75  ...
NoWriterDateCnt.TitleFile(s)
12117정성태1/15/202010835디버깅 기술: 159. C# - 디버깅 중인 프로세스를 강제로 다른 디버거에서 연결하는 방법파일 다운로드1
12116정성태1/15/202011308디버깅 기술: 158. Visual Studio로 디버깅 시 sos.dll 확장 명령어를 (비롯한 windbg의 다양한 기능을) 수행하는 방법
12115정성태1/14/202011081디버깅 기술: 157. C# - PEB.ProcessHeap을 이용해 디버깅 중인지 확인하는 방법파일 다운로드1
12114정성태1/13/202012929디버깅 기술: 156. C# - PDB 파일로부터 심벌(Symbol) 및 타입(Type) 정보 열거 [1]파일 다운로드3
12113정성태1/12/202013562오류 유형: 590. Visual C++ 빌드 오류 - fatal error LNK1104: cannot open file 'atls.lib' [1]
12112정성태1/12/202010103오류 유형: 589. PowerShell - 원격 Invoke-Command 실행 시 "WinRM cannot complete the operation" 오류 발생
12111정성태1/12/202013397디버깅 기술: 155. C# - KernelMemoryIO 드라이버를 이용해 실행 프로그램을 숨기는 방법(DKOM: Direct Kernel Object Modification) [16]파일 다운로드1
12110정성태1/11/202011989디버깅 기술: 154. Patch Guard로 인해 블루 스크린(BSOD)가 발생하는 사례 [5]파일 다운로드1
12109정성태1/10/20209889오류 유형: 588. Driver 프로젝트 빌드 오류 - Inf2Cat error -2: "Inf2Cat, signability test failed."
12108정성태1/10/20209949오류 유형: 587. Kernel Driver 시작 시 127(The specified procedure could not be found.) 오류 메시지 발생
12107정성태1/10/202010879.NET Framework: 877. C# - 프로세스의 모든 핸들을 열람 - 두 번째 이야기
12106정성태1/8/202012378VC++: 136. C++ - OSR Driver Loader와 같은 Legacy 커널 드라이버 설치 프로그램 제작 [1]
12105정성태1/8/202010963디버깅 기술: 153. C# - PEB를 조작해 로드된 DLL을 숨기는 방법
12104정성태1/7/202011640DDK: 9. 커널 메모리를 읽고 쓰는 NT Legacy driver와 C# 클라이언트 프로그램 [4]
12103정성태1/7/202014389DDK: 8. Visual Studio 2019 + WDK Legacy Driver 제작- Hello World 예제 [1]파일 다운로드2
12102정성태1/6/202011967디버깅 기술: 152. User 권한(Ring 3)의 프로그램에서 _ETHREAD 주소(및 커널 메모리를 읽을 수 있다면 _EPROCESS 주소) 구하는 방법
12101정성태1/5/202011296.NET Framework: 876. C# - PEB(Process Environment Block)를 통해 로드된 모듈 목록 열람
12100정성태1/3/20209327.NET Framework: 875. .NET 3.5 이하에서 IntPtr.Add 사용
12099정성태1/3/202011654디버깅 기술: 151. Windows 10 - Process Explorer로 확인한 Handle 정보를 windbg에서 조회 [1]
12098정성태1/2/202011231.NET Framework: 874. C# - 커널 구조체의 Offset 값을 하드 코딩하지 않고 사용하는 방법 [3]
12097정성태1/2/20209800디버깅 기술: 150. windbg - Wow64, x86, x64에서의 커널 구조체(예: TEB) 구조체 확인
12096정성태12/30/201911761디버깅 기술: 149. C# - DbgEng.dll을 이용한 간단한 디버거 제작 [1]
12095정성태12/27/201913189VC++: 135. C++ - string_view의 동작 방식
12094정성태12/26/201911370.NET Framework: 873. C# - 코드를 통해 PDB 심벌 파일 다운로드 방법
12093정성태12/26/201911424.NET Framework: 872. C# - 로딩된 Native DLL의 export 함수 목록 출력파일 다운로드1
12092정성태12/25/201910841디버깅 기술: 148. cdb.exe를 이용해 (ntdll.dll 등에 정의된) 커널 구조체 출력하는 방법
... [61]  62  63  64  65  66  67  68  69  70  71  72  73  74  75  ...