Microsoft MVP성태의 닷넷 이야기
.NET Framework: 708. C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리 [링크 복사], [링크+제목 복사],
조회: 35449
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

(시리즈 글이 10개 있습니다.)
.NET Framework: 707. OpenCV 응용 프로그램을 C#으로 구현 - OpenCvSharp
; https://www.sysnet.pe.kr/2/0/11402

.NET Framework: 708. C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리
; https://www.sysnet.pe.kr/2/0/11403

.NET Framework: 709. C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리 + Direct2D
; https://www.sysnet.pe.kr/2/0/11404

.NET Framework: 710. C# - OpenCvSharp을 이용한 Webcam 영상 처리 + Direct2D
; https://www.sysnet.pe.kr/2/0/11405

.NET Framework: 711. C# - OpenCvSharp의 Mat 데이터 조작 방법
; https://www.sysnet.pe.kr/2/0/11406

.NET Framework: 723. C# - OpenCvSharp 사용 시 C/C++을 이용한 속도 향상 (for 루프 연산)
; https://www.sysnet.pe.kr/2/0/11422

VC++: 123. 내가 만든 코드보다 OpenCV의 속도가 월등히 빠른 이유
; https://www.sysnet.pe.kr/2/0/11423

.NET Framework: 781. C# - OpenCvSharp 사용 시 포인터를 이용한 속도 향상
; https://www.sysnet.pe.kr/2/0/11567

개발 환경 구성: 447. Visual Studio Code에서 OpenCvSharp 개발 환경 구성
; https://www.sysnet.pe.kr/2/0/11971

Graphics: 38. C# - OpenCvSharp.VideoWriter에 BMP 파일을 1초씩 출력하는 예제
; https://www.sysnet.pe.kr/2/0/12485




C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리

OpenCvSharp을 이용해,

OpenCV 응용 프로그램을 C#으로 구현 - OpenCvSharp
; https://www.sysnet.pe.kr/2/0/11402

동영상 처리하는 것도 다음과 같이 간단합니다.

[Cpp] Capturing Video
; https://github.com/shimat/opencvsharp/wiki/%5BCpp%5D-Capturing-Video

using OpenCvSharp;
using System;

namespace ConsoleApp1
{
    class Program
    {
        static void Main(string[] args)
        {
            VideoCapture capture = new VideoCapture("c:\\temp\\test.avi");

            int sleepTime = (int)Math.Round(1000 / capture.Fps);

            using (Window window = new Window("capture"))
            using (Mat image = new Mat()) // Frame image buffer
            {
                // When the movie playback reaches end, Mat.data becomes NULL.
                while (true)
                {
                    capture.Read(image); // same as cvQueryFrame
                    if (image.Empty())
                        break;

                    window.ShowImage(image);
                    Cv2.WaitKey(sleepTime);
                }
            }
        }
    }
}

참고로 Cv2.WaitKey를 Thread.Sleep으로 바꾸면 동영상 출력이 안됩니다. (아마도 Cv2.WaitKey 내부 로직에는 OpenCvSharp.Window의 메시지 처리 등도 포함이 된 것 같습니다.)




그런데, Windows Forms로 올려서 OpenCvSharp.Window 없이 처리하려면 어떻게 해야 할까요? 이를 위해 다음과 같은 식으로 처리를 해봤는데요.

using OpenCvSharp;
using OpenCvSharp.Extensions;
using System;
using System.Collections.Concurrent;
using System.Diagnostics;
using System.Drawing;
using System.Threading;
using System.Windows.Forms;

namespace WindowsFormsApp1
{
    public partial class Form1 : Form
    {
        public Form1()
        {
            InitializeComponent();
        }

        protected override void OnPaintBackground(PaintEventArgs e)
        {
         //  base.OnPaintBackground(e);
        }

        protected override void OnPaint(PaintEventArgs e)
        {
            base.OnPaint(e);
            var g = e.Graphics;
            
            while (true)
            {
                if (_q.TryTake(out Bitmap item) == true)
                {
                    g.DrawImage(item, new PointF(0, 0));
                    item.Dispose();
                }
                else
                {
                    break;
                }
            }
        }

        BlockingCollection<Bitmap> _q = new BlockingCollection<Bitmap>();

        private Thread camera;

        private void CaptureCameraCallback()
        {
            VideoCapture capture = new VideoCapture("c:\\temp\\test.avi");

            if (capture.IsOpened() == false)
            {
                return;
            }

            int fps = (int)capture.Fps;

            int expectedProcessTimePerFrame = 1000 / fps;
            Stopwatch st = new Stopwatch();
            st.Start();

            using (Mat image = new Mat())
            {
                while (true)
                {
                    long started = st.ElapsedMilliseconds;
                    capture.Read(image);

                    if (image.Empty() == true)
                    {
                        break;
                    }

                    _q.Add(BitmapConverter.ToBitmap(image));
                    this.Invoke((Action)(() => this.Invalidate()));

                    int elapsed = (int)(st.ElapsedMilliseconds - started);
                    int delay = expectedProcessTimePerFrame - elapsed;

                    if (delay > 0)
                    {
                        Thread.Sleep(delay);
                    }
                }
            }
        }

        private void Form1_Load(object sender, EventArgs e)
        {
            camera = new Thread(CaptureCameraCallback);
            camera.IsBackground = true;
            camera.Start();
        }
    }
}

이전의 OpenCvSharp.Window를 이용했던 예제와 비교해 성능이 심각하게 하락했습니다. 예를 들어 1280 * 720 해상도의 24 fps 동영상도 화면이 뚝뚝 끊기면서 나오고 CPU 사용량도 늘었습니다. 단순히 OpenCvSharp.Window를 출력할 때는 CPU가 거의 0에 가깝게 소비하고 있었는데 위와 같이 바꾸니까 항상 7 ~ 12% 이상을 소비합니다. (4Core 기준)

물론 OpenCvSharp.Window를 사용할 때와는 다르게 ToBitmap의 호출로 인한 버퍼 복사에 대한 부하가 있겠지만 가장 병목이 되는 지점은 Graphics.DrawImage였습니다. DrawImage 호출에 20ms ~ 50ms까지 부하가 나오므로 24fps를 위한 최소 기준인 41ms를 심심치 않게 초과하는 것입니다.

Graphics.DrawImage에 대해 검색해 봐도 비슷한 의견을 많이 볼 수 있습니다.

Is Graphics.DrawImage too slow for bigger images?
; https://stackoverflow.com/questions/11020710/is-graphics-drawimage-too-slow-for-bigger-images

그러니까, 혹시나 GDI로 영상 처리를 한다면 단일 프레임은 그나마 상관없겠지만 다중 프레임을 처리해야 하는 상황이라면 이런 성능 차이를 고려해 OpenCvSharp.Window로 처리하는 것이 권장됩니다.

(첨부한 파일은 이 글의 예제 코드를 포함합니다.)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 12/26/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2017-12-17 01시46분
C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리 + Direct2D
; http://www.sysnet.pe.kr/2/0/11404
정성태
2018-04-13 04시28분
[강용규] onpaint 의
        
if (_q.TryTake(out SharpDX.Direct2D1.Bitmap item) == true)

error CS1003: 구문 오류입니다. ','이(가) 필요합니다.
라는 오류가 뜨는데 이유가 무엇인지 혹시 아시는지요 ㅠ
[guest]
2018-04-13 06시24분
out 예약어가 괄호 안에서 사용할 수 있는 것은 C# 7.0부터 가능합니다. 6.0 이하의 컴파일러를 사용중이시라면 다음과 같이 변경하셔야 합니다.

SharpDX.Direct2D1.Bitmap item;
if (_q.TryTake(out item) == true)
정성태

1  2  3  [4]  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13940정성태6/1/20254642C/C++: 188. C++의 32비트 + Release 어셈블리 코드를 .NET으로 포팅할 때 주의할 점파일 다운로드1
13939정성태5/29/20255400오류 유형: 958. NVIDIA Triton Inference Server - version `GLIBCXX_3.4.32' not found (required by /opt/tritonserver/backends/python/triton_python_backend_stub)
13938정성태5/29/20253769개발 환경 구성: 747. 파이썬 - WSL/docker에 구성한 Triton 예제 개발 환경
13937정성태5/24/20254108개발 환경 구성: 746. Windows + WSL2 환경에서 (tensorflow 등의) NVIDIA GPU 인식
13936정성태5/23/20253778개발 환경 구성: 745. Linux / WSL 환경에 Miniconda 설치하기
13935정성태5/20/20253358오류 유형: 957. 파이썬 - pip 사용 시 "ImportError: cannot import name 'html5lib' from 'pip._vendor'" 오류
13934정성태5/20/20254605스크립트: 77. 파이썬 - 'urllib.request' 모듈의 명시적/암시적 로딩 차이
13933정성태5/19/20253443오류 유형: 956. Visual Studio 2022가 17.12 버전부터 업데이트 되지 않는다면?
13932정성태5/18/20254542스크립트: 76. 파이썬 - Version 문자열 다루기(semver 패키지)
13931정성태5/17/20254919스크립트: 75. 파이썬 - Cython 기본 예제 및 컴파일
13930정성태5/17/20254054개발 환경 구성: 744. 파이썬 - Windows embeddable package 환경에서 외부 패키지 사용하는 방법(ex: UFO² 환경 구성)
13929정성태5/16/20254219오류 유형: 955. 파이썬 - "Windows embeddable package" REPL 환경에서 "NameError: name 'exit' is not defined"
13928정성태5/15/20254168오류 유형: 954. UFO² - "'Invalid URL (POST /v1/chat/completions/chat/completions)'"
13927정성태5/15/20254441오류 유형: 953. OpenAI - The API request of HOST_AGENT failed: OpenAI API request exceeded rate limit: Error code: 429
13926정성태5/14/20255349개발 환경 구성: 743. LLM과 윈도우의 만남 - Desktop AgentOS UFO² 기본 환경 구성
13925정성태5/12/20255253닷넷: 2333. C# - (Console 유형의 프로젝트에서) Clipboard 연동파일 다운로드1
13924정성태5/8/20254644닷넷: 2332. C# - (JetBrains Omea Reader 대상으로) 런타임 시에 메서드 가로채기 [2]파일 다운로드1
13923정성태5/5/20253484스크립트: 74. 파이썬 - C# - Python.NET의 RunSimpleScript, Exec, Eval 차이점파일 다운로드1
13922정성태5/3/20254870스크립트: 73. 파이썬 - Windows embeddable package 버전에서 tkinter 환경 구성
13921정성태5/3/20255162오류 유형: 952. 듀얼 채널 메모리 정렬을 지키지 않은 컴퓨터의 Windows 비정상 종료 현상(Blue Screen) [2]
13920정성태5/3/20255673오류 유형: 951. Typed DataSet 생성 중 "Failed to open a connection to the database" 오류
13919정성태5/2/20254567VS.NET IDE: 201. C# - Typed DataSet(XSD)를 위한 연결 문자열 암호화 [1]파일 다운로드1
13918정성태5/2/20255815VS.NET IDE: 200. C# - app.config 파일의 출력을 Configuration(Debug/Release)에 따라 제어하는 방법파일 다운로드1
13917정성태4/30/20254168VS.NET IDE: 199. Directory.Build.props에 정의한 속성에 대해 Condition 제약으로 값을 변경하는 방법
13916정성태4/23/20253817디버깅 기술: 221. WinDbg 분석 사례 - ASP.NET HttpCookieCollection을 다중 스레드에서 사용할 경우 무한 루프 현상 - 두 번째 이야기
13915정성태4/13/20255796닷넷: 2331. C# - 실행 시에 메서드 가로채기 (.NET 9)파일 다운로드1
1  2  3  [4]  5  6  7  8  9  10  11  12  13  14  15  ...