Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 5개 있습니다.)
(시리즈 글이 10개 있습니다.)
.NET Framework: 707. OpenCV 응용 프로그램을 C#으로 구현 - OpenCvSharp
; https://www.sysnet.pe.kr/2/0/11402

.NET Framework: 708. C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리
; https://www.sysnet.pe.kr/2/0/11403

.NET Framework: 709. C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리 + Direct2D
; https://www.sysnet.pe.kr/2/0/11404

.NET Framework: 710. C# - OpenCvSharp을 이용한 Webcam 영상 처리 + Direct2D
; https://www.sysnet.pe.kr/2/0/11405

.NET Framework: 711. C# - OpenCvSharp의 Mat 데이터 조작 방법
; https://www.sysnet.pe.kr/2/0/11406

.NET Framework: 723. C# - OpenCvSharp 사용 시 C/C++을 이용한 속도 향상 (for 루프 연산)
; https://www.sysnet.pe.kr/2/0/11422

VC++: 123. 내가 만든 코드보다 OpenCV의 속도가 월등히 빠른 이유
; https://www.sysnet.pe.kr/2/0/11423

.NET Framework: 781. C# - OpenCvSharp 사용 시 포인터를 이용한 속도 향상
; https://www.sysnet.pe.kr/2/0/11567

개발 환경 구성: 447. Visual Studio Code에서 OpenCvSharp 개발 환경 구성
; https://www.sysnet.pe.kr/2/0/11971

Graphics: 38. C# - OpenCvSharp.VideoWriter에 BMP 파일을 1초씩 출력하는 예제
; https://www.sysnet.pe.kr/2/0/12485




C# - OpenCvSharp.VideoWriter에 BMP 파일을 1초씩 출력하는 예제

마침 질문도 있으니,

[WPF/OpenCV] 이미지->영상 저장에 대해서 질문 드립니다!!
; https://www.sysnet.pe.kr/3/0/5447

오랜만에 OpenCvSharp을 다뤄보겠습니다. ^^ 간략하게 개발 환경 구성하고,

Visual Studio Code에서 OpenCvSharp 개발 환경 구성
; https://www.sysnet.pe.kr/2/0/11971

Bitmap 파일로부터 Mat을 반환하는 간단한 도우미 타입을 만든 후,

using OpenCvSharp;
using System;
using System.Drawing;
using System.Drawing.Imaging;

namespace WindowsFormsApp1
{
    public class MatBitmap : IDisposable
    {
        string _filePath;
        Image _img;
        Bitmap _bitmap;
        BitmapData _data;
        Mat _mat;

        public MatBitmap(string filePath)
        {
            _filePath = filePath;
        }

        public Mat Mat
        {
            get
            {
                if (_mat == null)
                {
                    _mat = LoadBitmap(_filePath);
                }

                return _mat;
            }
        }

        public Mat LoadBitmap(string filePath)
        {
            _img = Bitmap.FromFile(filePath);

            Rectangle imgSize = new Rectangle(0, 0, _img.Width, _img.Height);
            _bitmap = new Bitmap(_img);
            _data = _bitmap.LockBits(
                    imgSize, System.Drawing.Imaging.ImageLockMode.ReadOnly, _img.PixelFormat);

            MatType type = MatType.CV_8UC3;

            switch (img.PixelFormat)
            {
                case PixelFormat.Format32bppArgb:
                    type = MatType.CV_8UC4;
                    break;
            }

            return new Mat(img.Height, img.Width, type, data.Scan0);
        }

        public void Dispose()
        {
            if (_data != null)
            {
                if (_bitmap != null)
                {
                    _bitmap.UnlockBits(_data);
                    _bitmap.Dispose();
                    _bitmap = null;
                }

                _data = null;
            }

            if (_img != null)
            {
                _img.Dispose();
                _img = null;
            }
        }
    }
}

이렇게 사용하면,

using OpenCvSharp;
using System;
using System.Windows.Forms;

namespace WindowsFormsApp1
{
    // Install-Package OpenCvSharp4
    // Install-Package OpenCvSharp4.Windows
    public partial class Form1 : Form
    {
        public Form1()
        {
            InitializeComponent();
        }

        private void button1_Click(object sender, EventArgs e)
        {
            MatBitmap[] bitmap = new MatBitmap[] {
            new MatBitmap("640x480_1.png"),
            new MatBitmap("640x480_2.png"),
            new MatBitmap("640x480_3.png") };

            int fps = 10;

            using (VideoWriter writer = new VideoWriter("test.avi", FourCC.XVID, fps, bitmap[0].Mat.Size(), true))
            {
                for (int i = 0; i < bitmap.Length; i++)
                {
                    for (int j = 0; j < fps; j++)
                    {
                        writer.Write(bitmap[i].Mat);
                    }

                    bitmap[i].Dispose();
                }
            }
        }
    }
}

3장의 "640x480_?.png" 파일을 읽어 각각 1초에 해당하는 분량으로 VideoWriter에 프레임을 쓰니 3초짜리 동영상이 만들어집니다. 굳이 더 이상 자세하게 설명할 것이 없군요. ^^

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




위의 예제에 기반을 둬 질문에 대한 답변을 하자면, 그러니까 결국 UDP 통신으로 전송하는 데이터는 _bitmap.LockBits로 얻은 IntPtr이 가리키는 버퍼이기만 하면 됩니다. 그것을 받아서 VideoWriter로 쓰면 되는데, 단지 UDP의 특성상 전송에 대한 신뢰성을 확보할 수 없으므로 (10 fps인 경우) 1초에 해당하는 10 frame 데이터를 온전히 받는 것을 기대해서는 안 됩니다.

따라서, 이미지 데이터와 함께 부가 헤더를 붙여 통신 프로토콜을 맞춰야 합니다. 가령, 일련번호도 함께 전송하고 수신 측에서는 일련번호가 순서대로 오지 않는 것을 감안해 몇 초 정도 버퍼링을 하다가 그래도 맞춰지지 않는 프레임은 그냥 이전 번호에 해당하는 프레임을 연이어 쓰는 식으로 보완을 해야 합니다.

게다가 위의 소스 코드에서는 단순히 raw 이미지 데이터를 다루고 있지만, 통신이 관여한다면 다양한 압축 방식을 고려하는 것이 좀 더 현실적일 수 있습니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 1/20/2022]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2024-09-24 08시24분
안녕하세요. 좋은 글 잘 보고 있습니다.

질문이 있습니다.
실시간으로 (disk i/o, file i/o없이)메모리에서 bmp를 mp4로 인코딩하고 네트워크로 전송하는 방법을 알고 싶습니다.


제가 실시간 화면공유 같은 프로그램을 c#으로 만들 계획을 가지고 있습니다.
자료를 찾아보았는데 대부분이 bmp를 mp4 파일로 생성하는 것들이었습니다. ㅠㅠ
  - opencv나 ffmpeg같은 경우도 결과(mp4)를 파일로 쓰도록 되어 있었습니다.
  - shareX라는 프로그램도 확인해 보았는데 역시나 파일로 쓰도록 되어 있네요.
  - obs studio도 찾아 보았는데... 이것은 c,c++로 되어있고, 프로그램이 방대해서 분석하기가 쉽지 않았습니다.
  - shartDX의 sample도 파일로 쓰도록 되어 있네요.

제가 생각하는 로직을 간략하게 의사코드로 표현하면 아래처럼 될 듯 합니다.
while
{
  var bmp = 화면캡처()
  mp4로인코딩(bmp)
  네트워크로 전송 // rtsp등등 이용
  sleep(1000/30) // 30fps
}


힌트라도 좋으니, 도움을 받고 싶습니다.
aha1492@gmail.com
그럼, ...
sk hyun
2024-09-24 08시33분
저도 거기까진 해본 적이 없습니다. 단지, ffmpeg를 보면,

C# - ffmpeg(FFmpeg.AutoGen)를 이용한 비디오 인코딩 예제(encode_video.c)
; https://www.sysnet.pe.kr/2/0/12898

video_encode_example 함수 내부에서 for (int i = 0; i < 25 * 10; i++) 루프를 돌면서 10초짜리 frame 단편 이미지를 만들고 그것을 encode(...) 함수에 넘겨 h264 인코딩하는 코드가 나옵니다.

다시 말해, frame 단편 이미지가 바로 BMP라고 보면 되고, encode 함수 내에서 ffmpeg.avcodec_send_frame / ffmpeg.avcodec_receive_packet으로 구하게 된 pkt가 압축된 데이터가 됩니다.

따라서 pkt->data를 네트워크로 전송하는 식으로 구현하면 되지 않을까 싶은데요, 해보시고 ^^ 결과 좀 알려주세요. (저도 언제 한 번 해봐야 하는데, 자꾸만 미루게 되는군요. ^^;)
정성태

... 76  77  78  79  80  81  82  83  84  [85]  86  87  88  89  90  ...
NoWriterDateCnt.TitleFile(s)
11806정성태1/29/201919463디버깅 기술: 122. windbg - 덤프 파일로부터 PID와 환경 변수 등의 정보를 구하는 방법
11805정성태1/28/201921519.NET Framework: 806. C# - int []와 object []의 차이로 이해하는 제네릭의 필요성 [4]파일 다운로드1
11804정성태1/24/201919404Windows: 155. diskpart - remove letter 이후 재부팅 시 다시 드라이브 문자가 할당되는 경우
11803정성태1/10/201918304디버깅 기술: 121. windbg - 닷넷 Finalizer 스레드가 멈춰있는 현상
11802정성태1/7/201920040.NET Framework: 805. 두 개의 윈도우를 각각 실행하는 방법(Windows Forms, WPF)파일 다운로드1
11801정성태1/1/201921403개발 환경 구성: 427. Netsh의 네트워크 모니터링 기능 [3]
11800정성태12/28/201820444오류 유형: 509. WCF 호출 오류 메시지 - System.ServiceModel.CommunicationException: Internal Server Error
11799정성태12/19/201822148.NET Framework: 804. WPF(또는 WinForm)에서 UWP UI 구성 요소 사용하는 방법 [3]파일 다운로드1
11798정성태12/19/201821004개발 환경 구성: 426. vcpkg - "Building vcpkg.exe failed. Please ensure you have installed Visual Studio with the Desktop C++ workload and the Windows SDK for Desktop C++"
11797정성태12/19/201817021개발 환경 구성: 425. vcpkg - CMake Error: Problem with archive_write_header(): Can't create '' 빌드 오류
11796정성태12/19/201817221개발 환경 구성: 424. vcpkg - "File does not have expected hash" 오류를 무시하는 방법
11795정성태12/19/201820553Windows: 154. PowerShell - Zone 별로 DNS 레코드 유형 정보 조회 [1]
11794정성태12/16/201816636오류 유형: 508. Get-AzureWebsite : Request to a downlevel service failed.
11793정성태12/16/201819221개발 환경 구성: 423. NuGet 패키지 제작 - Native와 Managed DLL을 분리하는 방법 [1]
11792정성태12/11/201819004Graphics: 34. .NET으로 구현하는 OpenGL (11) - Per-Pixel Lighting파일 다운로드1
11791정성태12/11/201819034VS.NET IDE: 130. C/C++ 프로젝트의 시작 프로그램으로 .NET Core EXE를 지정하는 경우 닷넷 디버깅이 안 되는 문제 [1]
11790정성태12/11/201817535오류 유형: 507. Could not save daemon configuration to C:\ProgramData\Docker\config\daemon.json: Access to the path 'C:\ProgramData\Docker\config' is denied.
11789정성태12/10/201831127Windows: 153. C# - USB 장치의 연결 및 해제 알림을 위한 WM_DEVICECHANGE 메시지 처리 [2]파일 다운로드2
11788정성태12/4/201817394오류 유형: 506. SqlClient - Value was either too large or too small for an Int32.Couldn't store <2151292191> in ... Column
11787정성태11/29/201821534Graphics: 33. .NET으로 구현하는 OpenGL (9), (10) - OBJ File Format, Loading 3D Models파일 다운로드1
11786정성태11/29/201818465오류 유형: 505. OpenGL.NET 예제 실행 시 "Managed Debugging Assistant 'CallbackOnCollectedDelegate'" 예외 발생
11785정성태11/21/201820846디버깅 기술: 120. windbg 분석 사례 - ODP.NET 사용 시 Finalizer에서 System.AccessViolationException 예외 발생으로 인한 비정상 종료
11784정성태11/18/201820072Graphics: 32. .NET으로 구현하는 OpenGL (7), (8) - Matrices and Uniform Variables, Model, View & Projection Matrices파일 다운로드1
11783정성태11/18/201818208오류 유형: 504. 윈도우 환경에서 docker가 설치된 컴퓨터 간의 ping IP 주소 풀이 오류
11782정성태11/18/201817380Windows: 152. 윈도우 10에서 사라진 "Adapters and Bindings" 네트워크 우선순위 조정 기능 - 두 번째 이야기
11781정성태11/17/201820732개발 환경 구성: 422. SFML.NET 라이브러리 설정 방법 [1]파일 다운로드1
... 76  77  78  79  80  81  82  83  84  [85]  86  87  88  89  90  ...