Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 1개 있습니다.)

CreateThread Win32 API에 C++ 클래스의 멤버 함수를 전달하는 방법

(주의: 이 글은, 원리를 좀 더 이해하자는 차원에서 쓰는 것일 뿐 현업에서 이렇게 쓰는 것을 권장하지는 않습니다.)

예전 글에서,

C++ 개발자들을 위한 C# Thread 동작 방식
; https://www.sysnet.pe.kr/2/0/11069

제가 C++ 클래스의 멤버 함수는 CreateThread의 인자에 전달할 수 없다고 했습니다. 예를 들어, 다음과 같은 클래스가 있다고 했을 때,

#include "stdafx.h"
#include <Windows.h>

class MyClass
{
public:
    DWORD dummy(void *ptr) { return 0; }
};

int main()
{
    LPTHREAD_START_ROUTINE pThreadFunc = (LPTHREAD_START_ROUTINE)(&MyClass::dummy); // 컴파일러 에러

    HANDLE hHandle = ::CreateThread(nullptr, 0, pThreadFunc, nullptr, 0, nullptr);
    ::WaitForSingleObject(hHandle, -1);

    return 0;
}

다음과 같은 컴파일 에러 때문에 할 수 없다고 했습니다.

Error C2440 'type cast': cannot convert from 'DWORD (__thiscall MyClass::* )(void *)' to 'LPTHREAD_START_ROUTINE'

사실 이것의 근본적인 문제점은 멤버 함수 포인터를 결국 void * 포인터로 형 변환할 수 없다는 것에서 기인합니다.

void *pVoid = (void *)&MyClass::dummy;

// Error C2440 'type cast': cannot convert from 'DWORD (__thiscall MyClass::* )(void *)' to 'void *'

일단 void *로 변환할 수 있다면 다른 모든 포인터로 형 변환하는 것은 문제가 없기 때문입니다.



그런데 방법이 있습니다. ^^ 예전에 제가 다음과 같은 글을 쓴 적이 있더군요. ^^;;;

클래스 멤버 함수에 대한 포인터를 받는 표현.
; https://www.sysnet.pe.kr/2/0/147

위의 코드에 보면, 멤버 함수 포인터를 void *로 바꾸는 것이 나옵니다. (그렇습니다. 부끄러운 이야기지만 저도 가끔 제가 쓴 글을 기억하지 못해 다시 봐야 아는 경우가 종종 있습니다. ^^;)

위의 코드를 우리의 CreateThread 예제에 적용해 보면 다음과 같습니다.

#include "stdafx.h"
#include <Windows.h>

class MyClass
{
public:
    DWORD dummy() 
    { 
        printf("dummy called!\n");
        return 0; 
    }
};

int main()
{
    {
        typedef DWORD (MyClass::*ThisFunc)();

        ThisFunc method = &MyClass::dummy;
        void *pFunc = (void *)*(int *)&method;
        LPTHREAD_START_ROUTINE threadFunc = (LPTHREAD_START_ROUTINE)pFunc;

        HANDLE hHandle = ::CreateThread(nullptr, 0, threadFunc, nullptr, 0, nullptr);
        ::WaitForSingleObject(hHandle, -1);
    }

    // 한줄 줄여서,

    {
        typedef DWORD (MyClass::*ThisFunc)();

        ThisFunc method = &MyClass::dummy;
        LPTHREAD_START_ROUTINE threadFunc = (LPTHREAD_START_ROUTINE)(void *)*(int *)&method;

        HANDLE hHandle = ::CreateThread(nullptr, 0, threadFunc, nullptr, 0, nullptr);
        ::WaitForSingleObject(hHandle, -1);
    }


    return 0;
}

/*
출력 결과:

dummy called!
dummy called!
*/

그런데, 이게 끝이 아닙니다. 인스턴스를 넘겨 동작시켜 보면 그 이유를 알 수 있습니다.

#include "stdafx.h"
#include <Windows.h>

class MyClass
{
    int data = 500;

public:
    DWORD dummy() 
    { 
        printf("dummy called: %d!\n", data);
        return 0; 
    }
};

int main()
{
    MyClass *thisPtr = new MyClass();

    {
        typedef DWORD(MyClass::*ThisFunc)();

        ThisFunc method = &MyClass::dummy;
        LPTHREAD_START_ROUTINE threadFunc = (LPTHREAD_START_ROUTINE)(void *)*(int *)&method;

        HANDLE hHandle = ::CreateThread(nullptr, 0, threadFunc, thisPtr, 0, nullptr);
        ::WaitForSingleObject(hHandle, -1);
    }

    delete thisPtr;
    return 0;
}

/*
출력 결과 (data의 값으로 쓰레기 값이 출력됨)

dummy called: 354281!
*/

왜냐하면, CreateThread는 전달된 threadFunc을 실행하면서 thisPtr 인자를 push 명령어로 스택을 통해 전달합니다. 반면, C++의 클래스 멤버 함수는 기본적으로 this 포인터 인자를 ecx 레지스터를 통해서 전달받으므로 dummy 메서드가 실제로 실행된 시점의 ecx 레지스터에는 알 수 없는 주솟값이 들어가 있게 됩니다.

이 문제를 해결하려면, dummy 메서드가 CreateThread가 스택을 통해 넘겨주는 것처럼 this 포인터를 ecx가 아닌 스택을 통해 받아야 합니다. 이를 위해, 호출 규약을 (기본값인 thiscall 대신) stdcall 등을 사용하도록 바꿔주면 됩니다.

#include "stdafx.h"
#include <Windows.h>

class MyClass
{
    int data = 500;

public:
    DWORD __stdcall dummy() 
    { 
        printf("dummy called: %d!\n", data);
        return 0; 
    }
};

int main()
{
    MyClass *thisPtr = new MyClass();

    {
        typedef DWORD(__stdcall MyClass::*StdFunc)();

        StdFunc method = &MyClass::dummy;
        LPTHREAD_START_ROUTINE threadFunc = (LPTHREAD_START_ROUTINE)(void *)*(int *)&method;

        HANDLE hHandle = ::CreateThread(nullptr, 0, threadFunc, thisPtr, 0, nullptr);
        ::WaitForSingleObject(hHandle, -1);
    }

    delete thisPtr;
    return 0;
}

/*
출력 결과 (data의 값으로 쓰레기 값이 출력됨)

dummy called: 500!
*/

마지막으로, 위의 코드는 32비트에서만 안정적이고 64비트로 오면 비정상 종료할 수 있습니다. 왜냐하면 *(int *)&method; 형 변환에서 int 범위로 값이 잘리기 때문입니다. 따라서, 32/64비트 모두 잘 동작시키려면 다음과 같이 바꿔주어야 합니다.

LPTHREAD_START_ROUTINE threadFunc = (LPTHREAD_START_ROUTINE)(void *)*(__int64 *)&method;

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 3/25/2017]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




... 61  62  63  64  65  66  67  68  69  70  71  72  73  74  [75]  ...
NoWriterDateCnt.TitleFile(s)
12153정성태2/23/202024471.NET Framework: 898. Trampoline을 이용한 후킹의 한계파일 다운로드1
12152정성태2/23/202021456.NET Framework: 897. 실행 시에 메서드 가로채기 - CLR Injection: Runtime Method Replacer 개선 - 세 번째 이야기(Trampoline 후킹)파일 다운로드1
12151정성태2/22/202024089.NET Framework: 896. C# - Win32 API를 Trampoline 기법을 이용해 C# 메서드로 가로채는 방법 - 두 번째 이야기 (원본 함수 호출)파일 다운로드1
12150정성태2/21/202024209.NET Framework: 895. C# - Win32 API를 Trampoline 기법을 이용해 C# 메서드로 가로채는 방법 [1]파일 다운로드1
12149정성태2/20/202021100.NET Framework: 894. eBEST C# XingAPI 래퍼 - 연속 조회 처리 방법 [1]
12148정성태2/19/202025794디버깅 기술: 163. x64 환경에서 구현하는 다양한 Trampoline 기법 [1]
12147정성태2/19/202021074디버깅 기술: 162. x86/x64의 기계어 코드 최대 길이
12146정성태2/18/202022292.NET Framework: 893. eBEST C# XingAPI 래퍼 - 로그인 처리파일 다운로드1
12145정성태2/18/202023887.NET Framework: 892. eBEST C# XingAPI 래퍼 - Sqlite 지원 추가파일 다운로드1
12144정성태2/13/202024092.NET Framework: 891. 실행 시에 메서드 가로채기 - CLR Injection: Runtime Method Replacer 개선 - 두 번째 이야기파일 다운로드1
12143정성태2/13/202018511.NET Framework: 890. 상황별 GetFunctionPointer 반환값 정리 - x64파일 다운로드1
12142정성태2/12/202022477.NET Framework: 889. C# 코드로 접근하는 MethodDesc, MethodTable파일 다운로드1
12141정성태2/10/202021442.NET Framework: 888. C# - ASP.NET Core 웹 응용 프로그램의 출력 가로채기 [2]파일 다운로드1
12140정성태2/10/202022754.NET Framework: 887. C# - ASP.NET 웹 응용 프로그램의 출력 가로채기파일 다운로드1
12139정성태2/9/202022449.NET Framework: 886. C# - Console 응용 프로그램에서 UI 스레드 구현 방법
12138정성태2/9/202028652.NET Framework: 885. C# - 닷넷 응용 프로그램에서 SQLite 사용 [6]파일 다운로드1
12137정성태2/9/202020323오류 유형: 592. [AhnLab] 경고 - 디버거 실행을 탐지했습니다.
12136정성태2/6/202022001Windows: 168. Windows + S(또는 Q)로 뜨는 작업 표시줄의 검색 바가 동작하지 않는 경우
12135정성태2/6/202027790개발 환경 구성: 468. Nuget 패키지의 로컬 보관 폴더를 옮기는 방법 [2]
12134정성태2/5/202025062.NET Framework: 884. eBEST XingAPI의 C# 래퍼 버전 - XingAPINet Nuget 패키지 [5]파일 다운로드1
12133정성태2/5/202022816디버깅 기술: 161. Windbg 환경에서 확인해 본 .NET 메서드 JIT 컴파일 전과 후 - 두 번째 이야기
12132정성태1/28/202025916.NET Framework: 883. C#으로 구현하는 Win32 API 후킹(예: Sleep 호출 가로채기) [1]파일 다운로드1
12131정성태1/27/202024537개발 환경 구성: 467. LocaleEmulator를 이용해 유니코드를 지원하지 않는(한글이 깨지는) 프로그램을 실행하는 방법 [1]
12130정성태1/26/202022095VS.NET IDE: 142. Visual Studio에서 windbg의 "Open Executable..."처럼 EXE를 직접 열어 디버깅을 시작하는 방법
12129정성태1/26/202029096.NET Framework: 882. C# - 키움 Open API+ 사용 시 Registry 등록 없이 KHOpenAPI.ocx 사용하는 방법 [3]
12128정성태1/26/202023271오류 유형: 591. The code execution cannot proceed because mfc100.dll was not found. Reinstalling the program may fix this problem.
... 61  62  63  64  65  66  67  68  69  70  71  72  73  74  [75]  ...