Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 1개 있습니다.)

P/Invoke의 성능을 높이기 위해 C++/CLI가 선택되려면?

예제 코드로 직접 설명해 볼까요? C#의 경우, 다음과 같이 P/Invoke 형식으로 Win32 API를 호출할 수 있는 반면,

class Program
{
    [DllImport("kernel32.dll")]
    static extern uint GetCurrentThreadId();

    static void Main(string[] args)
    {
        GetCurrentThreadId();
    }
}

C++/CLI의 경우에는 별다르게 P/Invoke 절차 없이 일반적인 C/C++에서 했던 것처럼 Win32 API를 곧바로 호출할 수가 있습니다.

#pragma once
#include <Windows.h>
using namespace System;

namespace TestLibrary {
    public ref class Class1
    {
    public:
        int GetId()
        {
            return ::GetCurrentThreadId();
        }
    };
}

C++/CLI의 활용예 중에 하나가, Managed 언어(C#,VB.NET,...)에서 P/Invoke를 이용하여 Win32 DLL에서 제공하는 API를 호출할 때 성능을 높이려는 방안이 하나 있습니다. 실제로 MSDN 문서에 보면 다음과 같은 이야기가 실려 있는데요.

Performance Considerations for Interop (C++)
; https://learn.microsoft.com/en-us/cpp/dotnet/performance-considerations-for-interop-cpp

C++ Interop uses the fastest possible method of data marshaling, whereas P/Invoke uses the most robust method. This means that C++ Interop (in a fashion typical for C++) provides optimal performance by default, and the programmer is responsible for addressing cases where this behavior is not safe or appropriate.


아울러, Managed 응용 프로그램에서 Native API를 호출하려면 다음과 같은 작업들이 필요하다고 되어 있습니다.

  • The function call arguments are marshaled from CLR to native types.
  • A managed-to-unmanaged thunk is executed.
  • The unmanaged function is called (using the native versions of the arguments).
  • An unmanaged-to-managed thunk is executed.
  • The return type and any "out" or "in,out" arguments are marshaled from native to CLR types.

여기서 우리가 정확하게 알아야 할 것은, C++/CLI 역시 Native API를 호출할 때에는 C#에서 PInvoke를 통해 호출했을 때처럼 managed-to-unmanaged thunk / unmanaged-to-managed thunk는 필요하다는 점입니다. 참고로, "thunk"에 대해서 낯설어 하시는 분들이 계실 텐데... 음... Visual Studio로 디버깅을 하다 보면 다음과 같은 "Call Stack"을 보는 경우가 있는데요.

pinvoke_perf_1.png

위에서 보이는 "[Managed to Native Transition]"에 해당하는 부분이 바로 "thunk"입니다. (물론, thunk라는 용어는 다양하게 쓰이는데, 일례로 WOW64에서도 64비트와 32비트 간의 변환을 위해 쓰이는 부분도 thunk라고 부릅니다.)

이렇게 따지면, C++/CLI에서 유일하게 성능을 높일 수 있는 부분은 바로 "data marshaling"입니다.




개인적으로, 이 부분에서 다소 궁금한 점이 생겼습니다. 그렇다면, 데이터 마샬링 부하 없이 실제로 어느 정도의 성능 차이가 있을까 하는 것입니다.

당연히... 이런 것은 테스트를 해봐야겠지요. ^^

그래서, 2개의 프로젝트를 준비하고,

  • ConsoleApplication1: C# Console EXE
  • TestLibrary: C++/CLI Library

C#에서 다음과 같이 PInvoke 호출을 하는 코드를 만든 후,

class Program
{
    [DllImport("kernel32.dll")]
    static extern uint GetCurrentThreadId();

    static void Main(string[] args)
    {
        int count = 100000;
        PInvokeTest(1); // JIT 컴파일 시간을 측정 시간에서 없애기 위해 미리 한번 호출

        Console.WriteLine("===================");

        PInvokeTest(count);
    }

    private static void PInvokeTest(int loopCount)
    {
        Stopwatch st = new Stopwatch();
        st.Start();

        for (int i = 0; i < loopCount; i++)
        {
            GetCurrentThreadId();
        }

        st.Stop();

        Console.WriteLine(st.ElapsedTicks);
    }
}

역시 C++/CLI에서도 위의 기능을 하는 코드를 만들어서,

#pragma once

#include <Windows.h>

using namespace System;

namespace TestLibrary {

    public ref class Class1
    {
    public:
        void GetId2(int count)
        {
            for (int i = 0; i < count; i ++)
            {
                ::GetCurrentThreadId();
            }
        }
    };
}

동일하게 시간을 측정할 수 있도록 C# Main 함수에 넣어두었습니다.

static void Main(string[] args)
{
    int count = 100000;
    PInvokeTest(1);
    Cppcli2Test(1);

    Console.WriteLine("===================");

    PInvokeTest(count);
    Cppcli2Test(count);
}

private static void Cppcli2Test(int count)
{
    TestLibrary.Class1 cl = new TestLibrary.Class1();

    Stopwatch st = new Stopwatch();
    st.Start();

    cl.GetId2(count);
    st.Stop();
    Console.WriteLine(st.ElapsedTicks);
}

다음은 3회 실행한 결과입니다.

P/Invoke: 12013, 9385, 11388
C++/CLI : 9346,  9330, 10504

보시는 것처럼 거의 차이가 나지 않습니다. 10만 번 수행에 저 정도 차이면, 추가된 C/C++ 프로젝트 관리나 그로 인한 x86/x64 DLL 파일의 유지/보수 노력을 감안했을 때 하지 않는 편이 더 낫습니다.

물론, 데이터 마샬링이 어느 정도 요구되는 상황에서는 분명히 C++/CLI의 장점이 있을 테지만, 우리가 일반적으로 만드는 C# 응용 프로그램에서는 사실상 P/Invoke의 성능을 높이기 위해 굳이 C++/CLI를 사용할 필요는 없다는 것을 잘 보여주고 있습니다.

웹에서 검색해 보니, 한 가지 실험 결과가 더 눈에 띄는데요.

PInvoke Performance
; http://www.codeproject.com/Articles/253444/PInvoke-Performance

위의 글에서 재미있는 결과를 볼 수 있는데, 바로 Native API의 속도가 눈에 띄게 높다는 점입니다.

아하~~~ 그렇다면, 제 결론은 이렇습니다.

그나마라도 성능이 아쉬운 상황이어서 어떻게라도 개선을 해야 한다면, C++/CLI를 사용하기보다는 아예 Win32 DLL(또는 COM 개체)을 만들어서 C/C++ 수준에서 성능을 높이는 것이 더 좋은 선택입니다!


* 첨부 파일은 다음의 3개 프로젝트를 포함하고 있습니다.

  • ConsoleApplication1: C# 콘솔 응용 프로그램
  • TestLibrary: C++/CLI 라이브러리
  • TestWin32DLL: C/C++ Win32 DLL




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 3/20/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2022-01-24 12시11분
[이세연] 열심히 CLI 공부해서 쓰고 있는데, 그냥 무식하게 PInvoke를 쓰는 거랑 차이가 없다니 충격적이네요.
언급하셨던 것처럼 그냥 unmanaged만으로 이뤄진 api로 호출을 최소화 하는 방향이 좋은 걸까요?
항상 그렇지만 저한태는 C++ - C# bridge의 코스트가 항상 높다는게 아쉬운 대목이에요.
[guest]
2022-01-24 12시43분
PInvoke에서의 차이가 없는 것은, 인자로 넘어가는 데이터의 양에 따라 달라질 수 있습니다. 예제에서 든 것은 인자가 하나도 없는 GetCurrentThreadId이기 때문에 그런 결과가 나온 것입니다.

그건 그렇고, C++/C# 호출의 cost가 높다는 것은, 어떤 거랑 비교해서 그렇다는 것인가요? 아니면 그냥 높아서 아쉽다는 것인가요? 제 개인적인 의견으로는, managed와 native 간의 호출에서 저 정도 이상으로 최적화는 어렵지 않을까... 예상해 봅니다. 게다가, Win32 API를 DllImport만으로 간단하게 호출할 수 있는 장치도 마련돼 있으니 설령 호출 비용이 높아도 어렵지 않게 우회할 수 있습니다. (유사한 예로, JAVA의 경우 네이티브와 연동하기 위해 JNI를 따르도록 되어 있는데, 아마도 그걸 이용해 보시면 C#이 얼마나 단순하게 네이티브 연동을 지원하는지 체감하실 것입니다. ^^)
정성태
2022-01-24 11시52분
[이세연] 저는 하드웨어랑 통신하는 소프트웨어를 개발하고 있습니다.
세팅하는데 1MB정도의 크기를 갖는 데이터를 넘겨주고, 초당 3000번이 넘는 횟수로 1MB정도 되는 데이터를 매번 받고 있습니다.
CUDA로는 1000번이 넘는 횟수로 획득한 1MB데이터를 매번 계산해주고 있습니다.
데이터를 통신하는 쪽이나 처리하는 쪽은 모두 C++로 이뤄져 있습니다.
저도 이렇게 조사만 할게 아니라 직접 테스트해봐야겠네요.

비교한 건 사실 본문내용으로 알려주신 링크에서 볼 수 있었는데, 달린 댓글을 보니,
컴파일러가 아무래도 안쓰는 데이터 연산을 최적화한 것으로 보여서 정확한 결과값은 아닌 것 같아 더 찾아봤습니다.(그외 최적화를 위해 attribute로 뭔가 건들고 한 것 같습니다)
https://pknopf.com/post/2013-03-06-cpp-cli-vs-com/
결론적으로 CLI를 쓴게 오지게 느려진단 사실과 그래도 쓰고 싶다면 wrapper로 쓰라는 참교육적인 비교가 있었습니다.
[guest]
2022-01-24 01시32분
재미있는 프로젝트를 하시는군요. ^^

말씀해주신 그 테스트 결과에서도 마찬가지지만, 제가 본문에서 언급한 것처럼 C++/CLI도 처음 bridge 역할을 하는 ref class는 결국 managed이기 때문에, 거기서 native를 호출하는 것은 thunking 비용이 발생합니다. 따라서, C++/CLI로 성능을 높이고 싶다면, 실질적인 부하가 걸리는 것은 (루프 실행을 포함해) native 파트로 만들고 C++/CLI로는 제어 용도의 인수만 넘기는 것이 좋습니다.

아울러 아래의 글도 보시면 재미있을 것입니다. ^^

내가 만든 코드보다 OpenCV의 속도가 월등히 빠른 이유
; https://www.sysnet.pe.kr/2/0/11423

CUDA로 작성한 RGB2RGBA 성능
; https://www.sysnet.pe.kr/2/0/11471
정성태
2022-01-24 04시30분
[이세연] 조언 감사합니다. 꼭 읽어보겠습니다.
[guest]

... 61  62  63  64  65  [66]  67  68  69  70  71  72  73  74  75  ...
NoWriterDateCnt.TitleFile(s)
12160정성태2/26/202013860개발 환경 구성: 469. Reg-free COM 개체 사용을 위한 manifest 파일 생성 도구 - COMRegFreeManifest
12159정성태2/26/202011528오류 유형: 596. Visual Studio - The project needs to include ATL support
12158정성태2/25/202013739디버깅 기술: 165. C# - Marshal.GetIUnknownForObject/GetIDispatchForObject 사용 시 메모리 누수(Memory Leak) 발생파일 다운로드1
12157정성태2/25/202014145디버깅 기술: 164. C# - Marshal.GetNativeVariantForObject 사용 시 메모리 누수(Memory Leak) 발생 및 해결 방법파일 다운로드1
12156정성태2/25/202013007오류 유형: 595. LINK : warning LNK4098: defaultlib 'nafxcw.lib' conflicts with use of other libs; use /NODEFAULTLIB:library
12155정성태2/25/202011901오류 유형: 594. Warning NU1701 - This package may not be fully compatible with your project
12154정성태2/25/202011583오류 유형: 593. warning LNK4070: /OUT:... directive in .EXP differs from output filename
12153정성태2/23/202015015.NET Framework: 898. Trampoline을 이용한 후킹의 한계파일 다운로드1
12152정성태2/23/202014614.NET Framework: 897. 실행 시에 메서드 가로채기 - CLR Injection: Runtime Method Replacer 개선 - 세 번째 이야기(Trampoline 후킹)파일 다운로드1
12151정성태2/22/202014972.NET Framework: 896. C# - Win32 API를 Trampoline 기법을 이용해 C# 메서드로 가로채는 방법 - 두 번째 이야기 (원본 함수 호출)파일 다운로드1
12150정성태2/21/202014861.NET Framework: 895. C# - Win32 API를 Trampoline 기법을 이용해 C# 메서드로 가로채는 방법 [1]파일 다운로드1
12149정성태2/20/202014695.NET Framework: 894. eBEST C# XingAPI 래퍼 - 연속 조회 처리 방법 [1]
12148정성태2/19/202015998디버깅 기술: 163. x64 환경에서 구현하는 다양한 Trampoline 기법 [1]
12147정성태2/19/202014528디버깅 기술: 162. x86/x64의 기계어 코드 최대 길이
12146정성태2/18/202014911.NET Framework: 893. eBEST C# XingAPI 래퍼 - 로그인 처리파일 다운로드1
12145정성태2/18/202014104.NET Framework: 892. eBEST C# XingAPI 래퍼 - Sqlite 지원 추가파일 다운로드1
12144정성태2/13/202014201.NET Framework: 891. 실행 시에 메서드 가로채기 - CLR Injection: Runtime Method Replacer 개선 - 두 번째 이야기파일 다운로드1
12143정성태2/13/202012009.NET Framework: 890. 상황별 GetFunctionPointer 반환값 정리 - x64파일 다운로드1
12142정성태2/12/202013794.NET Framework: 889. C# 코드로 접근하는 MethodDesc, MethodTable파일 다운로드1
12141정성태2/10/202013168.NET Framework: 888. C# - ASP.NET Core 웹 응용 프로그램의 출력 가로채기 [2]파일 다운로드1
12140정성태2/10/202013258.NET Framework: 887. C# - ASP.NET 웹 응용 프로그램의 출력 가로채기파일 다운로드1
12139정성태2/9/202014932.NET Framework: 886. C# - Console 응용 프로그램에서 UI 스레드 구현 방법
12138정성태2/9/202017770.NET Framework: 885. C# - 닷넷 응용 프로그램에서 SQLite 사용 [6]파일 다운로드1
12137정성태2/9/202012225오류 유형: 592. [AhnLab] 경고 - 디버거 실행을 탐지했습니다.
12136정성태2/6/202012969Windows: 168. Windows + S(또는 Q)로 뜨는 작업 표시줄의 검색 바가 동작하지 않는 경우
12135정성태2/6/202017375개발 환경 구성: 468. Nuget 패키지의 로컬 보관 폴더를 옮기는 방법 [2]
... 61  62  63  64  65  [66]  67  68  69  70  71  72  73  74  75  ...