Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 1개 있습니다.)

P/Invoke의 성능을 높이기 위해 C++/CLI가 선택되려면?

예제 코드로 직접 설명해 볼까요? C#의 경우, 다음과 같이 P/Invoke 형식으로 Win32 API를 호출할 수 있는 반면,

class Program
{
    [DllImport("kernel32.dll")]
    static extern uint GetCurrentThreadId();

    static void Main(string[] args)
    {
        GetCurrentThreadId();
    }
}

C++/CLI의 경우에는 별다르게 P/Invoke 절차 없이 일반적인 C/C++에서 했던 것처럼 Win32 API를 곧바로 호출할 수가 있습니다.

#pragma once
#include <Windows.h>
using namespace System;

namespace TestLibrary {
    public ref class Class1
    {
    public:
        int GetId()
        {
            return ::GetCurrentThreadId();
        }
    };
}

C++/CLI의 활용예 중에 하나가, Managed 언어(C#,VB.NET,...)에서 P/Invoke를 이용하여 Win32 DLL에서 제공하는 API를 호출할 때 성능을 높이려는 방안이 하나 있습니다. 실제로 MSDN 문서에 보면 다음과 같은 이야기가 실려 있는데요.

Performance Considerations for Interop (C++)
; https://learn.microsoft.com/en-us/cpp/dotnet/performance-considerations-for-interop-cpp

C++ Interop uses the fastest possible method of data marshaling, whereas P/Invoke uses the most robust method. This means that C++ Interop (in a fashion typical for C++) provides optimal performance by default, and the programmer is responsible for addressing cases where this behavior is not safe or appropriate.


아울러, Managed 응용 프로그램에서 Native API를 호출하려면 다음과 같은 작업들이 필요하다고 되어 있습니다.

  • The function call arguments are marshaled from CLR to native types.
  • A managed-to-unmanaged thunk is executed.
  • The unmanaged function is called (using the native versions of the arguments).
  • An unmanaged-to-managed thunk is executed.
  • The return type and any "out" or "in,out" arguments are marshaled from native to CLR types.

여기서 우리가 정확하게 알아야 할 것은, C++/CLI 역시 Native API를 호출할 때에는 C#에서 PInvoke를 통해 호출했을 때처럼 managed-to-unmanaged thunk / unmanaged-to-managed thunk는 필요하다는 점입니다. 참고로, "thunk"에 대해서 낯설어 하시는 분들이 계실 텐데... 음... Visual Studio로 디버깅을 하다 보면 다음과 같은 "Call Stack"을 보는 경우가 있는데요.

pinvoke_perf_1.png

위에서 보이는 "[Managed to Native Transition]"에 해당하는 부분이 바로 "thunk"입니다. (물론, thunk라는 용어는 다양하게 쓰이는데, 일례로 WOW64에서도 64비트와 32비트 간의 변환을 위해 쓰이는 부분도 thunk라고 부릅니다.)

이렇게 따지면, C++/CLI에서 유일하게 성능을 높일 수 있는 부분은 바로 "data marshaling"입니다.




개인적으로, 이 부분에서 다소 궁금한 점이 생겼습니다. 그렇다면, 데이터 마샬링 부하 없이 실제로 어느 정도의 성능 차이가 있을까 하는 것입니다.

당연히... 이런 것은 테스트를 해봐야겠지요. ^^

그래서, 2개의 프로젝트를 준비하고,

  • ConsoleApplication1: C# Console EXE
  • TestLibrary: C++/CLI Library

C#에서 다음과 같이 PInvoke 호출을 하는 코드를 만든 후,

class Program
{
    [DllImport("kernel32.dll")]
    static extern uint GetCurrentThreadId();

    static void Main(string[] args)
    {
        int count = 100000;
        PInvokeTest(1); // JIT 컴파일 시간을 측정 시간에서 없애기 위해 미리 한번 호출

        Console.WriteLine("===================");

        PInvokeTest(count);
    }

    private static void PInvokeTest(int loopCount)
    {
        Stopwatch st = new Stopwatch();
        st.Start();

        for (int i = 0; i < loopCount; i++)
        {
            GetCurrentThreadId();
        }

        st.Stop();

        Console.WriteLine(st.ElapsedTicks);
    }
}

역시 C++/CLI에서도 위의 기능을 하는 코드를 만들어서,

#pragma once

#include <Windows.h>

using namespace System;

namespace TestLibrary {

    public ref class Class1
    {
    public:
        void GetId2(int count)
        {
            for (int i = 0; i < count; i ++)
            {
                ::GetCurrentThreadId();
            }
        }
    };
}

동일하게 시간을 측정할 수 있도록 C# Main 함수에 넣어두었습니다.

static void Main(string[] args)
{
    int count = 100000;
    PInvokeTest(1);
    Cppcli2Test(1);

    Console.WriteLine("===================");

    PInvokeTest(count);
    Cppcli2Test(count);
}

private static void Cppcli2Test(int count)
{
    TestLibrary.Class1 cl = new TestLibrary.Class1();

    Stopwatch st = new Stopwatch();
    st.Start();

    cl.GetId2(count);
    st.Stop();
    Console.WriteLine(st.ElapsedTicks);
}

다음은 3회 실행한 결과입니다.

P/Invoke: 12013, 9385, 11388
C++/CLI : 9346,  9330, 10504

보시는 것처럼 거의 차이가 나지 않습니다. 10만 번 수행에 저 정도 차이면, 추가된 C/C++ 프로젝트 관리나 그로 인한 x86/x64 DLL 파일의 유지/보수 노력을 감안했을 때 하지 않는 편이 더 낫습니다.

물론, 데이터 마샬링이 어느 정도 요구되는 상황에서는 분명히 C++/CLI의 장점이 있을 테지만, 우리가 일반적으로 만드는 C# 응용 프로그램에서는 사실상 P/Invoke의 성능을 높이기 위해 굳이 C++/CLI를 사용할 필요는 없다는 것을 잘 보여주고 있습니다.

웹에서 검색해 보니, 한 가지 실험 결과가 더 눈에 띄는데요.

PInvoke Performance
; http://www.codeproject.com/Articles/253444/PInvoke-Performance

위의 글에서 재미있는 결과를 볼 수 있는데, 바로 Native API의 속도가 눈에 띄게 높다는 점입니다.

아하~~~ 그렇다면, 제 결론은 이렇습니다.

그나마라도 성능이 아쉬운 상황이어서 어떻게라도 개선을 해야 한다면, C++/CLI를 사용하기보다는 아예 Win32 DLL(또는 COM 개체)을 만들어서 C/C++ 수준에서 성능을 높이는 것이 더 좋은 선택입니다!


* 첨부 파일은 다음의 3개 프로젝트를 포함하고 있습니다.

  • ConsoleApplication1: C# 콘솔 응용 프로그램
  • TestLibrary: C++/CLI 라이브러리
  • TestWin32DLL: C/C++ Win32 DLL




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 3/20/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2022-01-24 12시11분
[이세연] 열심히 CLI 공부해서 쓰고 있는데, 그냥 무식하게 PInvoke를 쓰는 거랑 차이가 없다니 충격적이네요.
언급하셨던 것처럼 그냥 unmanaged만으로 이뤄진 api로 호출을 최소화 하는 방향이 좋은 걸까요?
항상 그렇지만 저한태는 C++ - C# bridge의 코스트가 항상 높다는게 아쉬운 대목이에요.
[guest]
2022-01-24 12시43분
PInvoke에서의 차이가 없는 것은, 인자로 넘어가는 데이터의 양에 따라 달라질 수 있습니다. 예제에서 든 것은 인자가 하나도 없는 GetCurrentThreadId이기 때문에 그런 결과가 나온 것입니다.

그건 그렇고, C++/C# 호출의 cost가 높다는 것은, 어떤 거랑 비교해서 그렇다는 것인가요? 아니면 그냥 높아서 아쉽다는 것인가요? 제 개인적인 의견으로는, managed와 native 간의 호출에서 저 정도 이상으로 최적화는 어렵지 않을까... 예상해 봅니다. 게다가, Win32 API를 DllImport만으로 간단하게 호출할 수 있는 장치도 마련돼 있으니 설령 호출 비용이 높아도 어렵지 않게 우회할 수 있습니다. (유사한 예로, JAVA의 경우 네이티브와 연동하기 위해 JNI를 따르도록 되어 있는데, 아마도 그걸 이용해 보시면 C#이 얼마나 단순하게 네이티브 연동을 지원하는지 체감하실 것입니다. ^^)
정성태
2022-01-24 11시52분
[이세연] 저는 하드웨어랑 통신하는 소프트웨어를 개발하고 있습니다.
세팅하는데 1MB정도의 크기를 갖는 데이터를 넘겨주고, 초당 3000번이 넘는 횟수로 1MB정도 되는 데이터를 매번 받고 있습니다.
CUDA로는 1000번이 넘는 횟수로 획득한 1MB데이터를 매번 계산해주고 있습니다.
데이터를 통신하는 쪽이나 처리하는 쪽은 모두 C++로 이뤄져 있습니다.
저도 이렇게 조사만 할게 아니라 직접 테스트해봐야겠네요.

비교한 건 사실 본문내용으로 알려주신 링크에서 볼 수 있었는데, 달린 댓글을 보니,
컴파일러가 아무래도 안쓰는 데이터 연산을 최적화한 것으로 보여서 정확한 결과값은 아닌 것 같아 더 찾아봤습니다.(그외 최적화를 위해 attribute로 뭔가 건들고 한 것 같습니다)
https://pknopf.com/post/2013-03-06-cpp-cli-vs-com/
결론적으로 CLI를 쓴게 오지게 느려진단 사실과 그래도 쓰고 싶다면 wrapper로 쓰라는 참교육적인 비교가 있었습니다.
[guest]
2022-01-24 01시32분
재미있는 프로젝트를 하시는군요. ^^

말씀해주신 그 테스트 결과에서도 마찬가지지만, 제가 본문에서 언급한 것처럼 C++/CLI도 처음 bridge 역할을 하는 ref class는 결국 managed이기 때문에, 거기서 native를 호출하는 것은 thunking 비용이 발생합니다. 따라서, C++/CLI로 성능을 높이고 싶다면, 실질적인 부하가 걸리는 것은 (루프 실행을 포함해) native 파트로 만들고 C++/CLI로는 제어 용도의 인수만 넘기는 것이 좋습니다.

아울러 아래의 글도 보시면 재미있을 것입니다. ^^

내가 만든 코드보다 OpenCV의 속도가 월등히 빠른 이유
; https://www.sysnet.pe.kr/2/0/11423

CUDA로 작성한 RGB2RGBA 성능
; https://www.sysnet.pe.kr/2/0/11471
정성태
2022-01-24 04시30분
[이세연] 조언 감사합니다. 꼭 읽어보겠습니다.
[guest]

... 61  62  63  64  65  66  67  [68]  69  70  71  72  73  74  75  ...
NoWriterDateCnt.TitleFile(s)
12110정성태1/11/202015313디버깅 기술: 154. Patch Guard로 인해 블루 스크린(BSOD)가 발생하는 사례 [5]파일 다운로드1
12109정성태1/10/202012725오류 유형: 588. Driver 프로젝트 빌드 오류 - Inf2Cat error -2: "Inf2Cat, signability test failed."
12108정성태1/10/202013240오류 유형: 587. Kernel Driver 시작 시 127(The specified procedure could not be found.) 오류 메시지 발생
12107정성태1/10/202014246.NET Framework: 877. C# - 프로세스의 모든 핸들을 열람 - 두 번째 이야기
12106정성태1/8/202015870VC++: 136. C++ - OSR Driver Loader와 같은 Legacy 커널 드라이버 설치 프로그램 제작 [1]
12105정성태1/8/202014325디버깅 기술: 153. C# - PEB를 조작해 로드된 DLL을 숨기는 방법
12104정성태1/7/202014901DDK: 9. 커널 메모리를 읽고 쓰는 NT Legacy driver와 C# 클라이언트 프로그램 [4]
12103정성태1/7/202017833DDK: 8. Visual Studio 2019 + WDK Legacy Driver 제작- Hello World 예제 [1]파일 다운로드2
12102정성태1/6/202015077디버깅 기술: 152. User 권한(Ring 3)의 프로그램에서 _ETHREAD 주소(및 커널 메모리를 읽을 수 있다면 _EPROCESS 주소) 구하는 방법
12101정성태1/5/202014661.NET Framework: 876. C# - PEB(Process Environment Block)를 통해 로드된 모듈 목록 열람
12100정성태1/3/202012309.NET Framework: 875. .NET 3.5 이하에서 IntPtr.Add 사용
12099정성태1/3/202014786디버깅 기술: 151. Windows 10 - Process Explorer로 확인한 Handle 정보를 windbg에서 조회 [1]
12098정성태1/2/202014799.NET Framework: 874. C# - 커널 구조체의 Offset 값을 하드 코딩하지 않고 사용하는 방법 [3]
12097정성태1/2/202012924디버깅 기술: 150. windbg - Wow64, x86, x64에서의 커널 구조체(예: TEB) 구조체 확인
12096정성태12/30/201915995디버깅 기술: 149. C# - DbgEng.dll을 이용한 간단한 디버거 제작 [1]
12095정성태12/27/201917081VC++: 135. C++ - string_view의 동작 방식
12094정성태12/26/201914744.NET Framework: 873. C# - 코드를 통해 PDB 심벌 파일 다운로드 방법
12093정성태12/26/201914510.NET Framework: 872. C# - 로딩된 Native DLL의 export 함수 목록 출력파일 다운로드1
12092정성태12/25/201914158디버깅 기술: 148. cdb.exe를 이용해 (ntdll.dll 등에 정의된) 커널 구조체 출력하는 방법
12091정성태12/25/201915540디버깅 기술: 147. pdb 파일을 다운로드하기 위한 symchk.exe 실행에 필요한 최소 파일 [1]
12090정성태12/24/201915114.NET Framework: 871. .NET AnyCPU로 빌드된 PE 헤더의 로딩 전/후 차이점 [1]파일 다운로드1
12089정성태12/23/201914792디버깅 기술: 146. gflags와 _CrtIsMemoryBlock을 이용한 Heap 메모리 손상 여부 체크
12088정성태12/23/201913792Linux: 28. Linux - 윈도우의 "Run as different user" 기능을 shell에서 실행하는 방법
12087정성태12/21/201914235디버깅 기술: 145. windbg/sos - Dictionary의 entries 배열 내용을 모두 덤프하는 방법 (do_hashtable.py) [1]
12086정성태12/20/201916164디버깅 기술: 144. windbg - Marshal.FreeHGlobal에서 발생한 덤프 분석 사례
12085정성태12/20/201914106오류 유형: 586. iisreset - The data is invalid. (2147942413, 8007000d) 오류 발생 - 두 번째 이야기 [1]
... 61  62  63  64  65  66  67  [68]  69  70  71  72  73  74  75  ...