Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 5개 있습니다.)
(시리즈 글이 10개 있습니다.)
.NET Framework: 707. OpenCV 응용 프로그램을 C#으로 구현 - OpenCvSharp
; https://www.sysnet.pe.kr/2/0/11402

.NET Framework: 708. C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리
; https://www.sysnet.pe.kr/2/0/11403

.NET Framework: 709. C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리 + Direct2D
; https://www.sysnet.pe.kr/2/0/11404

.NET Framework: 710. C# - OpenCvSharp을 이용한 Webcam 영상 처리 + Direct2D
; https://www.sysnet.pe.kr/2/0/11405

.NET Framework: 711. C# - OpenCvSharp의 Mat 데이터 조작 방법
; https://www.sysnet.pe.kr/2/0/11406

.NET Framework: 723. C# - OpenCvSharp 사용 시 C/C++을 이용한 속도 향상 (for 루프 연산)
; https://www.sysnet.pe.kr/2/0/11422

VC++: 123. 내가 만든 코드보다 OpenCV의 속도가 월등히 빠른 이유
; https://www.sysnet.pe.kr/2/0/11423

.NET Framework: 781. C# - OpenCvSharp 사용 시 포인터를 이용한 속도 향상
; https://www.sysnet.pe.kr/2/0/11567

개발 환경 구성: 447. Visual Studio Code에서 OpenCvSharp 개발 환경 구성
; https://www.sysnet.pe.kr/2/0/11971

Graphics: 38. C# - OpenCvSharp.VideoWriter에 BMP 파일을 1초씩 출력하는 예제
; https://www.sysnet.pe.kr/2/0/12485




C# - OpenCvSharp.VideoWriter에 BMP 파일을 1초씩 출력하는 예제

마침 질문도 있으니,

[WPF/OpenCV] 이미지->영상 저장에 대해서 질문 드립니다!!
; https://www.sysnet.pe.kr/3/0/5447

오랜만에 OpenCvSharp을 다뤄보겠습니다. ^^ 간략하게 개발 환경 구성하고,

Visual Studio Code에서 OpenCvSharp 개발 환경 구성
; https://www.sysnet.pe.kr/2/0/11971

Bitmap 파일로부터 Mat을 반환하는 간단한 도우미 타입을 만든 후,

using OpenCvSharp;
using System;
using System.Drawing;
using System.Drawing.Imaging;

namespace WindowsFormsApp1
{
    public class MatBitmap : IDisposable
    {
        string _filePath;
        Image _img;
        Bitmap _bitmap;
        BitmapData _data;
        Mat _mat;

        public MatBitmap(string filePath)
        {
            _filePath = filePath;
        }

        public Mat Mat
        {
            get
            {
                if (_mat == null)
                {
                    _mat = LoadBitmap(_filePath);
                }

                return _mat;
            }
        }

        public Mat LoadBitmap(string filePath)
        {
            _img = Bitmap.FromFile(filePath);

            Rectangle imgSize = new Rectangle(0, 0, _img.Width, _img.Height);
            _bitmap = new Bitmap(_img);
            _data = _bitmap.LockBits(
                    imgSize, System.Drawing.Imaging.ImageLockMode.ReadOnly, _img.PixelFormat);

            MatType type = MatType.CV_8UC3;

            switch (img.PixelFormat)
            {
                case PixelFormat.Format32bppArgb:
                    type = MatType.CV_8UC4;
                    break;
            }

            return new Mat(img.Height, img.Width, type, data.Scan0);
        }

        public void Dispose()
        {
            if (_data != null)
            {
                if (_bitmap != null)
                {
                    _bitmap.UnlockBits(_data);
                    _bitmap.Dispose();
                    _bitmap = null;
                }

                _data = null;
            }

            if (_img != null)
            {
                _img.Dispose();
                _img = null;
            }
        }
    }
}

이렇게 사용하면,

using OpenCvSharp;
using System;
using System.Windows.Forms;

namespace WindowsFormsApp1
{
    // Install-Package OpenCvSharp4
    // Install-Package OpenCvSharp4.Windows
    public partial class Form1 : Form
    {
        public Form1()
        {
            InitializeComponent();
        }

        private void button1_Click(object sender, EventArgs e)
        {
            MatBitmap[] bitmap = new MatBitmap[] {
            new MatBitmap("640x480_1.png"),
            new MatBitmap("640x480_2.png"),
            new MatBitmap("640x480_3.png") };

            int fps = 10;

            using (VideoWriter writer = new VideoWriter("test.avi", FourCC.XVID, fps, bitmap[0].Mat.Size(), true))
            {
                for (int i = 0; i < bitmap.Length; i++)
                {
                    for (int j = 0; j < fps; j++)
                    {
                        writer.Write(bitmap[i].Mat);
                    }

                    bitmap[i].Dispose();
                }
            }
        }
    }
}

3장의 "640x480_?.png" 파일을 읽어 각각 1초에 해당하는 분량으로 VideoWriter에 프레임을 쓰니 3초짜리 동영상이 만들어집니다. 굳이 더 이상 자세하게 설명할 것이 없군요. ^^

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




위의 예제에 기반을 둬 질문에 대한 답변을 하자면, 그러니까 결국 UDP 통신으로 전송하는 데이터는 _bitmap.LockBits로 얻은 IntPtr이 가리키는 버퍼이기만 하면 됩니다. 그것을 받아서 VideoWriter로 쓰면 되는데, 단지 UDP의 특성상 전송에 대한 신뢰성을 확보할 수 없으므로 (10 fps인 경우) 1초에 해당하는 10 frame 데이터를 온전히 받는 것을 기대해서는 안 됩니다.

따라서, 이미지 데이터와 함께 부가 헤더를 붙여 통신 프로토콜을 맞춰야 합니다. 가령, 일련번호도 함께 전송하고 수신 측에서는 일련번호가 순서대로 오지 않는 것을 감안해 몇 초 정도 버퍼링을 하다가 그래도 맞춰지지 않는 프레임은 그냥 이전 번호에 해당하는 프레임을 연이어 쓰는 식으로 보완을 해야 합니다.

게다가 위의 소스 코드에서는 단순히 raw 이미지 데이터를 다루고 있지만, 통신이 관여한다면 다양한 압축 방식을 고려하는 것이 좀 더 현실적일 수 있습니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 1/20/2022]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2024-09-24 08시24분
안녕하세요. 좋은 글 잘 보고 있습니다.

질문이 있습니다.
실시간으로 (disk i/o, file i/o없이)메모리에서 bmp를 mp4로 인코딩하고 네트워크로 전송하는 방법을 알고 싶습니다.


제가 실시간 화면공유 같은 프로그램을 c#으로 만들 계획을 가지고 있습니다.
자료를 찾아보았는데 대부분이 bmp를 mp4 파일로 생성하는 것들이었습니다. ㅠㅠ
  - opencv나 ffmpeg같은 경우도 결과(mp4)를 파일로 쓰도록 되어 있었습니다.
  - shareX라는 프로그램도 확인해 보았는데 역시나 파일로 쓰도록 되어 있네요.
  - obs studio도 찾아 보았는데... 이것은 c,c++로 되어있고, 프로그램이 방대해서 분석하기가 쉽지 않았습니다.
  - shartDX의 sample도 파일로 쓰도록 되어 있네요.

제가 생각하는 로직을 간략하게 의사코드로 표현하면 아래처럼 될 듯 합니다.
while
{
  var bmp = 화면캡처()
  mp4로인코딩(bmp)
  네트워크로 전송 // rtsp등등 이용
  sleep(1000/30) // 30fps
}


힌트라도 좋으니, 도움을 받고 싶습니다.
aha1492@gmail.com
그럼, ...
sk hyun
2024-09-24 08시33분
저도 거기까진 해본 적이 없습니다. 단지, ffmpeg를 보면,

C# - ffmpeg(FFmpeg.AutoGen)를 이용한 비디오 인코딩 예제(encode_video.c)
; https://www.sysnet.pe.kr/2/0/12898

video_encode_example 함수 내부에서 for (int i = 0; i < 25 * 10; i++) 루프를 돌면서 10초짜리 frame 단편 이미지를 만들고 그것을 encode(...) 함수에 넘겨 h264 인코딩하는 코드가 나옵니다.

다시 말해, frame 단편 이미지가 바로 BMP라고 보면 되고, encode 함수 내에서 ffmpeg.avcodec_send_frame / ffmpeg.avcodec_receive_packet으로 구하게 된 pkt가 압축된 데이터가 됩니다.

따라서 pkt->data를 네트워크로 전송하는 식으로 구현하면 되지 않을까 싶은데요, 해보시고 ^^ 결과 좀 알려주세요. (저도 언제 한 번 해봐야 하는데, 자꾸만 미루게 되는군요. ^^;)
정성태

... 61  62  63  64  65  66  67  68  69  70  71  72  [73]  74  75  ...
NoWriterDateCnt.TitleFile(s)
12106정성태1/8/202019575VC++: 136. C++ - OSR Driver Loader와 같은 Legacy 커널 드라이버 설치 프로그램 제작 [1]
12105정성태1/8/202018064디버깅 기술: 153. C# - PEB를 조작해 로드된 DLL을 숨기는 방법
12104정성태1/7/202019234DDK: 9. 커널 메모리를 읽고 쓰는 NT Legacy driver와 C# 클라이언트 프로그램 [4]
12103정성태1/7/202022345DDK: 8. Visual Studio 2019 + WDK Legacy Driver 제작- Hello World 예제 [1]파일 다운로드2
12102정성태1/6/202018736디버깅 기술: 152. User 권한(Ring 3)의 프로그램에서 _ETHREAD 주소(및 커널 메모리를 읽을 수 있다면 _EPROCESS 주소) 구하는 방법
12101정성태1/5/202018921.NET Framework: 876. C# - PEB(Process Environment Block)를 통해 로드된 모듈 목록 열람
12100정성태1/3/202016397.NET Framework: 875. .NET 3.5 이하에서 IntPtr.Add 사용
12099정성태1/3/202019226디버깅 기술: 151. Windows 10 - Process Explorer로 확인한 Handle 정보를 windbg에서 조회 [1]
12098정성태1/2/202018974.NET Framework: 874. C# - 커널 구조체의 Offset 값을 하드 코딩하지 않고 사용하는 방법 [3]
12097정성태1/2/202017076디버깅 기술: 150. windbg - Wow64, x86, x64에서의 커널 구조체(예: TEB) 구조체 확인
12096정성태12/30/201919814디버깅 기술: 149. C# - DbgEng.dll을 이용한 간단한 디버거 제작 [1]
12095정성태12/27/201921482VC++: 135. C++ - string_view의 동작 방식
12094정성태12/26/201919208.NET Framework: 873. C# - 코드를 통해 PDB 심벌 파일 다운로드 방법
12093정성태12/26/201918784.NET Framework: 872. C# - 로딩된 Native DLL의 export 함수 목록 출력파일 다운로드1
12092정성태12/25/201917637디버깅 기술: 148. cdb.exe를 이용해 (ntdll.dll 등에 정의된) 커널 구조체 출력하는 방법
12091정성태12/25/201919909디버깅 기술: 147. pdb 파일을 다운로드하기 위한 symchk.exe 실행에 필요한 최소 파일 [1]
12090정성태12/24/201920014.NET Framework: 871. .NET AnyCPU로 빌드된 PE 헤더의 로딩 전/후 차이점 [1]파일 다운로드1
12089정성태12/23/201918902디버깅 기술: 146. gflags와 _CrtIsMemoryBlock을 이용한 Heap 메모리 손상 여부 체크
12088정성태12/23/201917889Linux: 28. Linux - 윈도우의 "Run as different user" 기능을 shell에서 실행하는 방법
12087정성태12/21/201918317디버깅 기술: 145. windbg/sos - Dictionary의 entries 배열 내용을 모두 덤프하는 방법 (do_hashtable.py) [1]
12086정성태12/20/201920755디버깅 기술: 144. windbg - Marshal.FreeHGlobal에서 발생한 덤프 분석 사례
12085정성태12/20/201918765오류 유형: 586. iisreset - The data is invalid. (2147942413, 8007000d) 오류 발생 - 두 번째 이야기 [1]
12084정성태12/19/201919220디버깅 기술: 143. windbg/sos - Hashtable의 buckets 배열 내용을 모두 덤프하는 방법 (do_hashtable.py) [1]
12083정성태12/17/201922205Linux: 27. linux - lldb를 이용한 .NET Core 응용 프로그램의 메모리 덤프 분석 방법 [2]
12082정성태12/17/201920505오류 유형: 585. lsof: WARNING: can't stat() fuse.gvfsd-fuse file system
12081정성태12/16/201922353개발 환경 구성: 465. 로컬 PC에서 개발 중인 ASP.NET Core 웹 응용 프로그램을 다른 PC에서도 접근하는 방법 [5]
... 61  62  63  64  65  66  67  68  69  70  71  72  [73]  74  75  ...