Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 5개 있습니다.)
(시리즈 글이 10개 있습니다.)
.NET Framework: 707. OpenCV 응용 프로그램을 C#으로 구현 - OpenCvSharp
; https://www.sysnet.pe.kr/2/0/11402

.NET Framework: 708. C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리
; https://www.sysnet.pe.kr/2/0/11403

.NET Framework: 709. C# - OpenCvSharp을 이용한 동영상(avi, mp4, ...) 처리 + Direct2D
; https://www.sysnet.pe.kr/2/0/11404

.NET Framework: 710. C# - OpenCvSharp을 이용한 Webcam 영상 처리 + Direct2D
; https://www.sysnet.pe.kr/2/0/11405

.NET Framework: 711. C# - OpenCvSharp의 Mat 데이터 조작 방법
; https://www.sysnet.pe.kr/2/0/11406

.NET Framework: 723. C# - OpenCvSharp 사용 시 C/C++을 이용한 속도 향상 (for 루프 연산)
; https://www.sysnet.pe.kr/2/0/11422

VC++: 123. 내가 만든 코드보다 OpenCV의 속도가 월등히 빠른 이유
; https://www.sysnet.pe.kr/2/0/11423

.NET Framework: 781. C# - OpenCvSharp 사용 시 포인터를 이용한 속도 향상
; https://www.sysnet.pe.kr/2/0/11567

개발 환경 구성: 447. Visual Studio Code에서 OpenCvSharp 개발 환경 구성
; https://www.sysnet.pe.kr/2/0/11971

Graphics: 38. C# - OpenCvSharp.VideoWriter에 BMP 파일을 1초씩 출력하는 예제
; https://www.sysnet.pe.kr/2/0/12485




C# - OpenCvSharp.VideoWriter에 BMP 파일을 1초씩 출력하는 예제

마침 질문도 있으니,

[WPF/OpenCV] 이미지->영상 저장에 대해서 질문 드립니다!!
; https://www.sysnet.pe.kr/3/0/5447

오랜만에 OpenCvSharp을 다뤄보겠습니다. ^^ 간략하게 개발 환경 구성하고,

Visual Studio Code에서 OpenCvSharp 개발 환경 구성
; https://www.sysnet.pe.kr/2/0/11971

Bitmap 파일로부터 Mat을 반환하는 간단한 도우미 타입을 만든 후,

using OpenCvSharp;
using System;
using System.Drawing;
using System.Drawing.Imaging;

namespace WindowsFormsApp1
{
    public class MatBitmap : IDisposable
    {
        string _filePath;
        Image _img;
        Bitmap _bitmap;
        BitmapData _data;
        Mat _mat;

        public MatBitmap(string filePath)
        {
            _filePath = filePath;
        }

        public Mat Mat
        {
            get
            {
                if (_mat == null)
                {
                    _mat = LoadBitmap(_filePath);
                }

                return _mat;
            }
        }

        public Mat LoadBitmap(string filePath)
        {
            _img = Bitmap.FromFile(filePath);

            Rectangle imgSize = new Rectangle(0, 0, _img.Width, _img.Height);
            _bitmap = new Bitmap(_img);
            _data = _bitmap.LockBits(
                    imgSize, System.Drawing.Imaging.ImageLockMode.ReadOnly, _img.PixelFormat);

            MatType type = MatType.CV_8UC3;

            switch (img.PixelFormat)
            {
                case PixelFormat.Format32bppArgb:
                    type = MatType.CV_8UC4;
                    break;
            }

            return new Mat(img.Height, img.Width, type, data.Scan0);
        }

        public void Dispose()
        {
            if (_data != null)
            {
                if (_bitmap != null)
                {
                    _bitmap.UnlockBits(_data);
                    _bitmap.Dispose();
                    _bitmap = null;
                }

                _data = null;
            }

            if (_img != null)
            {
                _img.Dispose();
                _img = null;
            }
        }
    }
}

이렇게 사용하면,

using OpenCvSharp;
using System;
using System.Windows.Forms;

namespace WindowsFormsApp1
{
    // Install-Package OpenCvSharp4
    // Install-Package OpenCvSharp4.Windows
    public partial class Form1 : Form
    {
        public Form1()
        {
            InitializeComponent();
        }

        private void button1_Click(object sender, EventArgs e)
        {
            MatBitmap[] bitmap = new MatBitmap[] {
            new MatBitmap("640x480_1.png"),
            new MatBitmap("640x480_2.png"),
            new MatBitmap("640x480_3.png") };

            int fps = 10;

            using (VideoWriter writer = new VideoWriter("test.avi", FourCC.XVID, fps, bitmap[0].Mat.Size(), true))
            {
                for (int i = 0; i < bitmap.Length; i++)
                {
                    for (int j = 0; j < fps; j++)
                    {
                        writer.Write(bitmap[i].Mat);
                    }

                    bitmap[i].Dispose();
                }
            }
        }
    }
}

3장의 "640x480_?.png" 파일을 읽어 각각 1초에 해당하는 분량으로 VideoWriter에 프레임을 쓰니 3초짜리 동영상이 만들어집니다. 굳이 더 이상 자세하게 설명할 것이 없군요. ^^

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




위의 예제에 기반을 둬 질문에 대한 답변을 하자면, 그러니까 결국 UDP 통신으로 전송하는 데이터는 _bitmap.LockBits로 얻은 IntPtr이 가리키는 버퍼이기만 하면 됩니다. 그것을 받아서 VideoWriter로 쓰면 되는데, 단지 UDP의 특성상 전송에 대한 신뢰성을 확보할 수 없으므로 (10 fps인 경우) 1초에 해당하는 10 frame 데이터를 온전히 받는 것을 기대해서는 안 됩니다.

따라서, 이미지 데이터와 함께 부가 헤더를 붙여 통신 프로토콜을 맞춰야 합니다. 가령, 일련번호도 함께 전송하고 수신 측에서는 일련번호가 순서대로 오지 않는 것을 감안해 몇 초 정도 버퍼링을 하다가 그래도 맞춰지지 않는 프레임은 그냥 이전 번호에 해당하는 프레임을 연이어 쓰는 식으로 보완을 해야 합니다.

게다가 위의 소스 코드에서는 단순히 raw 이미지 데이터를 다루고 있지만, 통신이 관여한다면 다양한 압축 방식을 고려하는 것이 좀 더 현실적일 수 있습니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 1/20/2022]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2024-09-24 08시24분
안녕하세요. 좋은 글 잘 보고 있습니다.

질문이 있습니다.
실시간으로 (disk i/o, file i/o없이)메모리에서 bmp를 mp4로 인코딩하고 네트워크로 전송하는 방법을 알고 싶습니다.


제가 실시간 화면공유 같은 프로그램을 c#으로 만들 계획을 가지고 있습니다.
자료를 찾아보았는데 대부분이 bmp를 mp4 파일로 생성하는 것들이었습니다. ㅠㅠ
  - opencv나 ffmpeg같은 경우도 결과(mp4)를 파일로 쓰도록 되어 있었습니다.
  - shareX라는 프로그램도 확인해 보았는데 역시나 파일로 쓰도록 되어 있네요.
  - obs studio도 찾아 보았는데... 이것은 c,c++로 되어있고, 프로그램이 방대해서 분석하기가 쉽지 않았습니다.
  - shartDX의 sample도 파일로 쓰도록 되어 있네요.

제가 생각하는 로직을 간략하게 의사코드로 표현하면 아래처럼 될 듯 합니다.
while
{
  var bmp = 화면캡처()
  mp4로인코딩(bmp)
  네트워크로 전송 // rtsp등등 이용
  sleep(1000/30) // 30fps
}


힌트라도 좋으니, 도움을 받고 싶습니다.
aha1492@gmail.com
그럼, ...
sk hyun
2024-09-24 08시33분
저도 거기까진 해본 적이 없습니다. 단지, ffmpeg를 보면,

C# - ffmpeg(FFmpeg.AutoGen)를 이용한 비디오 인코딩 예제(encode_video.c)
; https://www.sysnet.pe.kr/2/0/12898

video_encode_example 함수 내부에서 for (int i = 0; i < 25 * 10; i++) 루프를 돌면서 10초짜리 frame 단편 이미지를 만들고 그것을 encode(...) 함수에 넘겨 h264 인코딩하는 코드가 나옵니다.

다시 말해, frame 단편 이미지가 바로 BMP라고 보면 되고, encode 함수 내에서 ffmpeg.avcodec_send_frame / ffmpeg.avcodec_receive_packet으로 구하게 된 pkt가 압축된 데이터가 됩니다.

따라서 pkt->data를 네트워크로 전송하는 식으로 구현하면 되지 않을까 싶은데요, 해보시고 ^^ 결과 좀 알려주세요. (저도 언제 한 번 해봐야 하는데, 자꾸만 미루게 되는군요. ^^;)
정성태

... 91  92  93  94  95  96  97  98  99  100  101  [102]  103  104  105  ...
NoWriterDateCnt.TitleFile(s)
11379정성태11/30/201718971오류 유형: 435. System.Web.HttpException - Session state has created a session id, but cannot save it because the response was already flushed by the application.
11378정성태11/29/201720454.NET Framework: 701. 한글이 포함된 바이트 배열을 나눈 경우 한글이 깨지지 않도록 다시 조합하는 방법 [1]파일 다운로드1
11377정성태11/29/201719664.NET Framework: 700. CommonOpenFileDialog 사용 시 사용자가 선택한 파일 목록을 구하는 방법 [3]파일 다운로드1
11376정성태11/28/201724018VS.NET IDE: 123. Visual Studio 편집기의 \r\n (crlf) 개행을 \n으로 폴더 단위로 설정하는 방법
11375정성태11/28/201718878오류 유형: 434. Visual Studio로 ASP.NET 디버깅 중 System.Web.HttpException - Could not load type 오류
11374정성태11/27/201723901사물인터넷: 14. 라즈베리 파이 - (윈도우의 NT 서비스처럼) 부팅 시 시작하는 프로그램 설정 [1]
11373정성태11/27/201722926오류 유형: 433. Raspberry Pi/Windows 다중 플랫폼 지원 컴파일 관련 오류 기록
11372정성태11/25/201725944사물인터넷: 13. 윈도우즈 사용자를 위한 라즈베리 파이 제로 W 모델을 설정하는 방법 [4]
11371정성태11/25/201719630오류 유형: 432. Hyper-V 가상 스위치 생성 시 Failed to connect Ethernet switch port 0x80070002 오류 발생
11370정성태11/25/201719489오류 유형: 431. Hyper-V의 Virtual Switch 생성 시 "External network" 목록에 특정 네트워크 어댑터 항목이 없는 경우
11369정성태11/25/201721620사물인터넷: 12. Raspberry Pi Zero(OTG)를 다른 컴퓨터에 연결해 가상 키보드 및 마우스로 쓰는 방법 (절대 좌표, 상대 좌표, 휠) [1]
11368정성태11/25/201727235.NET Framework: 699. UDP 브로드캐스트 주소 255.255.255.255와 192.168.0.255의 차이점과 이를 고려한 C# UDP 서버/클라이언트 예제 [2]파일 다운로드1
11367정성태11/25/201727256개발 환경 구성: 337. 윈도우 운영체제의 route 명령어 사용법
11366정성태11/25/201718906오류 유형: 430. 이벤트 로그 - Cryptographic Services failed while processing the OnIdentity() call in the System Writer Object.
11365정성태11/25/201721157오류 유형: 429. 이벤트 로그 - User Policy could not be updated successfully
11364정성태11/24/201722979사물인터넷: 11. Raspberry Pi Zero(OTG)를 다른 컴퓨터에 연결해 가상 마우스로 쓰는 방법 (절대 좌표) [2]
11363정성태11/23/201723025사물인터넷: 10. Raspberry Pi Zero(OTG)를 다른 컴퓨터에 연결해 가상 마우스 + 키보드로 쓰는 방법 (두 번째 이야기)
11362정성태11/22/201719561오류 유형: 428. 윈도우 업데이트 KB4048953 - 0x800705b4 [2]
11361정성태11/22/201722398오류 유형: 427. 이벤트 로그 - Filter Manager failed to attach to volume '\Device\HarddiskVolume??' 0xC03A001C
11360정성태11/22/201722159오류 유형: 426. 이벤트 로그 - The kernel power manager has initiated a shutdown transition.
11359정성태11/16/201721652오류 유형: 425. 윈도우 10 Version 1709 (OS Build 16299.64) 업그레이드 시 발생한 문제 2가지
11358정성태11/15/201726353사물인터넷: 9. Visual Studio 2017에서 Raspberry Pi C++ 응용 프로그램 제작 [1]
11357정성태11/15/201726788개발 환경 구성: 336. 윈도우 10 Bash 쉘에서 C++ 컴파일하는 방법
11356정성태11/15/201728430사물인터넷: 8. Raspberry Pi Zero(OTG)를 다른 컴퓨터에 연결해 가상 마우스 + 키보드로 쓰는 방법 [4]
11355정성태11/15/201724327사물인터넷: 7. Raspberry Pi Zero(OTG)를 다른 컴퓨터에 연결해 가상 마우스로 쓰는 방법 [2]파일 다운로드2
11354정성태11/14/201728532사물인터넷: 6. Raspberry Pi Zero(OTG)를 다른 컴퓨터에 연결해 가상 키보드로 쓰는 방법 [8]
... 91  92  93  94  95  96  97  98  99  100  101  [102]  103  104  105  ...