Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 2개 있습니다.)
(시리즈 글이 10개 있습니다.)
.NET Framework: 707. OpenCV 응용 프로그램을 C#으로 구현 - OpenCvSharp
; https://www.sysnet.pe.kr/2/0/11402

.NET Framework: 708. C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리
; https://www.sysnet.pe.kr/2/0/11403

.NET Framework: 709. C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리 + Direct2D
; https://www.sysnet.pe.kr/2/0/11404

.NET Framework: 710. C# - OpenCvSharp을 이용한 Webcam 영상 처리 + Direct2D
; https://www.sysnet.pe.kr/2/0/11405

.NET Framework: 711. C# - OpenCvSharp의 Mat 데이터 조작 방법
; https://www.sysnet.pe.kr/2/0/11406

.NET Framework: 723. C# - OpenCvSharp 사용 시 C/C++을 이용한 속도 향상 (for 루프 연산)
; https://www.sysnet.pe.kr/2/0/11422

VC++: 123. 내가 만든 코드보다 OpenCV의 속도가 월등히 빠른 이유
; https://www.sysnet.pe.kr/2/0/11423

.NET Framework: 781. C# - OpenCvSharp 사용 시 포인터를 이용한 속도 향상
; https://www.sysnet.pe.kr/2/0/11567

개발 환경 구성: 447. Visual Studio Code에서 OpenCvSharp 개발 환경 구성
; https://www.sysnet.pe.kr/2/0/11971

Graphics: 38. C# - OpenCvSharp.VideoWriter에 BMP 파일을 1초씩 출력하는 예제
; https://www.sysnet.pe.kr/2/0/12485




C# - OpenCvSharp 사용 시 C/C++을 이용한 속도 향상 (for 루프 연산)

지난 글에서,

C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리 + Direct2D
; https://www.sysnet.pe.kr/2/0/11404

RGB 이미지를 RGBA로 변환하기 위해 C# 코딩을 했었는데요, 이게 꽤나 성능이 안 좋았습니다. 반면, OpenCvSharp의 Mat 타입에서 제공하는 CvtColor 연산은 놀라울 정도로 높은 성능을 보였습니다. 따라서 당연히 CvtColor 메서드를 비롯해 가능하면 OpenCV가 제공하는 함수를 사용하는 것이 좋겠지만, 그래도 때로는 사용자 정의 루프를 작성해야 할 때가 있습니다.

그럴 때 성능이 안 좋은 C# 코딩보다는 그 부분만을 C/C++로 대체해 OpenCV 수준의 성능으로 끌어올리는 것이 바람직한데요, 그런 경우 어떤 식으로 해야 OpenCV 정도까지 성능이 개선되는지 테스트를 해봤습니다. ^^

연산 대상은 "C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리 + Direct2D" 글에서도 다뤘던 RGB to RGBA 코드입니다.




우선, 기준이 되는 OpenCV 연산을 다음과 같이 할 수 있습니다.

static void Main(string[] args)
{
    using (Mat mat = new Mat(new Size(1920, 1080), MatType.CV_8UC3))
    {
        Convert(mat);
    }
}

static int Convert(Mat mat)
{
    using (Mat dstMat = mat.CvtColor(ColorConversionCodes.BGR2BGRA))
    {
        return dstMat.Width;
    }
}

그다음 동일한 연산을 C#으로 직접 For loop로 구현을 했습니다.

static unsafe int Convert2(Mat srcMat)
{
    byte *srcPtr = (byte *)srcMat.Data;

    using (Mat dstMat = new Mat(new Size(1920, 1080), MatType.CV_8UC4))
    {
        byte *dstPtr = (byte *)dstMat.Data;

        for (int y = 0; y < srcMat.Height; y++)
        {
            for (int x = 0; x < srcMat.Width - 1; x++)
            {
                int* src = (int*)srcPtr;
                int* dst = (int*)dstPtr;

                *dst = *src;
                *(dstPtr + 3) = 0xff;

                srcPtr = srcPtr + 3;
                dstPtr = dstPtr + 4;
            }

            Buffer.MemoryCopy(srcPtr, dstPtr, 3, 3);
            *(dstPtr + 3) = 0xff;
        }
    }

    return 0;
}

역시 동일한 코드를 C/C++ DLL을 만들어 export 함수로 C#에서 다음과 같이 호출하는 식으로 구현했습니다.

// ==== C# ====
[DllImport("MemCopyLib.dll")]
public unsafe extern static void RGB2RGBA(byte* srcPtr, byte* dstPtr, int width, int height);

static unsafe int Convert3(Mat srcMat)
{
    byte* srcPtr = (byte*)srcMat.Data;
    using (Mat dstMat = new Mat(new Size(1920, 1080), MatType.CV_8UC4))
    {
        byte* dstPtr = (byte*)dstMat.Data;
        RGB2RGBA(srcPtr, dstPtr, srcMat.Width, srcMat.Height);
    }

    return 0;
}

// ==== C/C++ ====
__declspec(dllexport) void RGB2RGBA(BYTE *srcPtr, BYTE *dstPtr, int width, int height)
{
    for (int y = 0; y < height; y++)
    {
        for (int x = 0; x < width; x++)
        {
            memcpy(dstPtr, srcPtr, 3);
            *(dstPtr + 3) = 0xff;

            srcPtr = srcPtr + 3;
            dstPtr = dstPtr + 4;
        }
    }
}

이렇게 만들고 실행해 보면, 다음과 같은 성능 수치를 볼 수 있습니다.

// 각각 Release 빌드로 100회씩 실행했으며, JIT 컴파일 보정을 위해 1회를 미리 실행한 후 시간 측정

opencv(100) : 690
c# for(100) : 7120
C++ for(100) : 1284

보면 OpenCV의 Mat.CvtColor 메서드가 단연 빠르고, 약 2배 늦은 속도로 단순 C++ for 구문 속도가 나오며 C#은 그보다도 7배까지 느린 것을 볼 수 있습니다. 즉, 이미지 처리 시 무거운 for 루프를 처리하는 경우라면 C#보다는 C/C++에 작업을 맡기는 것을 충분히 고려할만합니다.




그렇다면 OpenCV의 처리가 왜 그토록 빠른 것일까요? 이에 대한 해답은 지난번에 소개했던 것처럼 다음의 글에서 찾아볼 수 있습니다.

OpenCV - 속도 분석 (1)
; https://laonple.blog.me/220861902363

즉, 병렬 처리입니다. 이를 위해 C/C++ 코드를 다음과 같이 병렬 처리로 바꾸면,

// i5-4670 코어 4개에서 테스트

#include <ppl.h>

using namespace concurrency;

__declspec(dllexport) void RGB2RGBA_Parallel(BYTE *srcPtr, BYTE *dstPtr, int width, int height)
{
    parallel_for (0, height, [&](size_t y)
    {
        BYTE *srcPtrY = srcPtr + (y * width * 3);
        BYTE *dstPtrY = dstPtr + (y * width * 4);

        for (size_t x = 0; x < width; x++)
        {
            memcpy(dstPtrY, srcPtrY, 3);
            *(dstPtrY + 3) = 0xff;

            srcPtrY = srcPtrY + 3;
            dstPtrY = dstPtrY + 4;
        }
    });
}

1284ms였던 것이 609ms까지 내려갑니다. OpenCV 속도가 690ms이니 충분히 빨라진 것입니다. (물론, OpenCV가 범용 처리를 하는 것을 고려했을 때 당연히 우리가 만든 C/C++ 코드가 저 정도는 빨라야 합니다.)

그렇다면 혹시 C# 코드도 병렬 처리를 하면 많이 빨라질까요?

// i5-4670 코어 4개에서 테스트
static unsafe int Convert3(Mat srcMat)
{
    byte* srcPtr = (byte*)srcMat.Data;

    using (Mat dstMat = new Mat(new Size(1920, 1080), MatType.CV_8UC4))
    {
        byte* dstPtr = (byte*)dstMat.Data;

        Parallel.For(0, srcMat.Height, (y) =>
        {
            byte* srcPtrY = srcPtr + (y * srcMat.Width * 3);
            byte* dstPtrY = dstPtr + (y * srcMat.Width * 4);

            for (int x = 0; x < srcMat.Width - 1; x++)
            {
                int* src = (int*)srcPtrY;
                int* dst = (int*)dstPtrY;

                *dst = *src;
                *(dstPtrY + 3) = 0xff;

                srcPtrY = srcPtrY + 3;
                dstPtrY = dstPtrY + 4;
            }

            Buffer.MemoryCopy(srcPtrY, dstPtrY, 3, 3);
            *(dstPtrY + 3) = 0xff;
        });
    }

    return 0;
}

테스트해보면, 단독 스레드일 때 7355ms인 것에 비하면 2036ms를 기록하며 확실히 빨라졌지만 이는 C/C++ 단독 스레드 처리일 때보다도 느린 수치입니다.

(첨부 파일은 이 글의 소스 코드를 포함합니다.)

참고로 다음은 성능 수치를 엑셀 그래프로 그린 것입니다. 훨씬 직관적이군요. ^^

for_loop_perf.png




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 12/25/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2018-05-11 02시04분
내가 만든 코드보다 OpenCV의 속도가 월등히 빠른 이유
; http://www.sysnet.pe.kr/2/0/11423
정성태
2018-05-11 02시05분
CUDA로 작성한 RGB2RGBA 성능
; http://www.sysnet.pe.kr/2/0/11471
정성태
2018-06-05 07시24분
[qwe1234] unsafe 에서 포인터를 사용해서 메모리를 다루더라도 GC가 그 메모리 영역을 맘대로 relocate 하는 경우가 생겨서 fixed keyword를 써서 GC가 못 건드리게 해야 한다고 생각하는데 굳이 fixed를 사용하지 않아도 되나요???
[guest]
2018-06-05 10시59분
fixed하는 것은 "관리 메모리"로부터 unsafe 포인터를 구할 때 고정시키기 위해 사용하는 것입니다. OpenCvSharp의 Mat 클래스는 OpenCV 네이티브 모듈 내에서 할당한 비관리 메모리를 사용하므로 GC의 관리 대상이 아닙니다. 따라서 fixed 시킬 필요가 없습니다.
정성태

... 31  32  33  34  35  36  37  38  39  [40]  41  42  43  44  45  ...
NoWriterDateCnt.TitleFile(s)
12622정성태5/2/20216363오류 유형: 713. XSD 파일을 포함한 프로젝트 - The type or namespace name 'TypedTableBase<>' does not exist in the namespace 'System.Data'
12621정성태5/1/20219819.NET Framework: 1053. C# - 특정 레지스트리 변경 시 알림을 받는 방법 [1]파일 다운로드1
12620정성태4/29/202111943.NET Framework: 1052. C# - 왜 구조체는 16 바이트의 크기가 적합한가? [1]파일 다운로드1
12619정성태4/28/202112431.NET Framework: 1051. C# - 구조체의 크기가 16바이트가 넘어가면 힙에 할당된다? [2]파일 다운로드1
12618정성태4/27/202110993사물인터넷: 58. NodeMCU v1 ESP8266 CP2102 Module을 이용한 WiFi UDP 통신 [1]파일 다운로드1
12617정성태4/26/20218656.NET Framework: 1050. C# - ETW EventListener의 Keywords별 EventId에 따른 필터링 방법파일 다운로드1
12616정성태4/26/20218622.NET Framework: 1049. C# - ETW EventListener를 상속받았을 때 초기화 순서파일 다운로드1
12615정성태4/26/20216795오류 유형: 712. Microsoft Live 로그인 - 계정을 선택하는(Pick an account) 화면에서 진행이 안 되는 문제
12614정성태4/24/20219471개발 환경 구성: 570. C# - Azure AD 인증을 지원하는 ASP.NET Core/5+ 웹 애플리케이션 예제 구성 [4]파일 다운로드1
12613정성태4/23/20218550.NET Framework: 1048. C# - ETW 이벤트의 Keywords에 속한 EventId 구하는 방법 (2) 관리 코드파일 다운로드1
12612정성태4/23/20218645.NET Framework: 1047. C# - ETW 이벤트의 Keywords에 속한 EventId 구하는 방법 (1) PInvoke파일 다운로드1
12611정성태4/22/20217943오류 유형: 711. 닷넷 EXE 실행 오류 - Mixed mode assembly is build against version 'v2.0.50727' of the runtime
12610정성태4/22/20217759.NET Framework: 1046. C# - 컴파일 시점에 참조할 수 없는 타입을 포함한 이벤트 핸들러를 Reflection을 이용해 구독하는 방법파일 다운로드1
12609정성태4/22/20219044.NET Framework: 1045. C# - 런타임 시점에 이벤트 핸들러를 만들어 Reflection을 이용해 구독하는 방법파일 다운로드1
12608정성태4/21/202110069.NET Framework: 1044. C# - Generic Host를 이용해 .NET 5로 리눅스 daemon 프로그램 만드는 방법 [9]파일 다운로드1
12607정성태4/21/20218593.NET Framework: 1043. C# - 실행 시점에 동적으로 Delegate 타입을 만드는 방법파일 다운로드1
12606정성태4/21/202112473.NET Framework: 1042. C# - enum 값을 int로 암시적(implicit) 형변환하는 방법? [2]파일 다운로드1
12605정성태4/18/20218544.NET Framework: 1041. C# - AssemblyID, ModuleID를 관리 코드에서 구하는 방법파일 다운로드1
12604정성태4/18/20217319VS.NET IDE: 163. 비주얼 스튜디오 속성 창의 "Build(빌드)" / "Configuration(구성)"에서의 "활성" 의미
12603정성태4/16/20218164VS.NET IDE: 162. 비주얼 스튜디오 - 상속받은 컨트롤이 디자인 창에서 지원되지 않는 문제
12602정성태4/16/20219362VS.NET IDE: 161. x64 DLL 프로젝트의 컨트롤이 Visual Studio의 Designer에서 보이지 않는 문제 [1]
12601정성태4/15/20218461.NET Framework: 1040. C# - REST API 대신 github 클라이언트 라이브러리를 통해 프로그래밍으로 접근
12600정성태4/15/20218648.NET Framework: 1039. C# - Kubeconfig의 token 설정 및 인증서 구성을 자동화하는 프로그램
12599정성태4/14/20219342.NET Framework: 1038. C# - 인증서 및 키 파일로부터 pfx/p12 파일을 생성하는 방법파일 다운로드1
12598정성태4/14/20219494.NET Framework: 1037. openssl의 PEM 개인키 파일을 .NET RSACryptoServiceProvider에서 사용하는 방법 (2)파일 다운로드1
12597정성태4/13/20219510개발 환경 구성: 569. csproj의 내용을 공통 설정할 수 있는 Directory.Build.targets / Directory.Build.props 파일
... 31  32  33  34  35  36  37  38  39  [40]  41  42  43  44  45  ...