Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 1개 있습니다.)
(시리즈 글이 3개 있습니다.)
.NET Framework: 1023. C# - GC 힙이 아닌 Native 힙에 인스턴스 생성 - 0SuperComicLib.LowLevel 라이브러리 소개
; https://www.sysnet.pe.kr/2/0/12538

닷넷: 2210. C# - Native 메모리에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13537

닷넷: 2211. C# - NonGC(FOH) 영역에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13538




C# - GC 힙이 아닌 Native 힙에 인스턴스 생성 - 0SuperComicLib.LowLevel 라이브러리 소개

재미있는 라이브러리가 있군요. ^^

[C#] 수동 메모리 관리 객체
; https://blog.naver.com/ekfvoddl3535/222066803012

사용법은, NativeClass를 이용해 감싸고 있기 때문에 그나마 간단하게 다음과 같은 식으로 코딩할 수 있습니다.

using SuperComicLib.LowLevel;
using System;

// Install-Package 0SuperComicLib.LowLevel
class Program
{
    static void Main(string[] args)
    {
        NativeInstance<SmallObject> nobj = NativeClass.InitObj<SmallObject>();

        nobj.Value.Age = 5; // 필드에 쓰레기 값이 있으므로, 사용 전 반드시 값 할당 필요
        Console.WriteLine(nobj.Value.Age); // 출력 결과: 5

        nobj.Dispose(); // 명시적으로 호출해야 메모리 누수가 없음
    }
}

public class SmallObject : IDisposable
{
    public int Age;

    public void Dispose()
    {
        Age = 0;
    }
}

InitObj는 내부적으로 Marshal.AllocHGlobal를 이용해 메모리를 Native Heap으로부터 할당한 후 GC 힙에 할당된 개체처럼 값 구성을 합니다.

C#에서 확인해 보는 관리 힙의 인스턴스 구조
; https://www.sysnet.pe.kr/2/0/1176

따라서, SmallObject 타입이라면 Native 메모리에 다음과 같은 값으로 구성됩니다. (실제로는 해당 라이브러리에서는 값 초기화를 하지 않습니다.)

                            ObjectHeader   TypeHandle   Age                   생성자 실행
GC에서 할당한 경우               00000000   01445574     00000000                  O
InitObj의 경우      ...[garbage_value]...  01445574     ...[garbage_value]...     X

그런 다음 TypeHandle이 위치한 메모리의 주소를 반납하면 CLR에서 실행 시 일반적인 개체처럼 사용할 수 있습니다. 이렇게 보면 이 라이브러리가 예전 질문의 답이 될 수도 있을 것 같습니다. ^^

C#에서 대량의 클래스를 빠르게 생성하는 방법이 없을까요?
; https://www.sysnet.pe.kr/3/0/5393




그렇긴 한데, 예제를 약간 변형해 참조 타입의 필드를 하나 추가한 후 사용하면 예외가 발생합니다.

Console.WriteLine(nobj.Value.Name); // 예외 발생

// 또는

nobj.Value.Name = "test"; // 예외 발생

public class SmallObject : IDisposable
{
    public int Age;
    public string Name;

    public void Dispose()
    {
        Age = 0;
        Name = null;
    }
}

즉, Native 메모리에 할당한 개체가 소유한 참조 타입의 필드인 Name을 접근했을 때 AccessViolationException 예외가 발생합니다.

System.AccessViolationException
  HResult=0x80004003
  Message=Attempted to read or write protected memory. This is often an indication that other memory is corrupt.
  Source=mscorlib
  StackTrace:
   at System.IO.TextWriter.WriteLine(String value) in f:\dd\ndp\clr\src\BCL\system\io\textwriter.cs:line 466
   at System.IO.TextWriter.SyncTextWriter.WriteLine(String value) in f:\dd\ndp\clr\src\BCL\system\io\textwriter.cs:line 838
   at System.Console.WriteLine(String value) in f:\dd\ndp\clr\src\BCL\system\console.cs:line 2085
   at Program.Main(String[] args) in C:\temp\ConsoleApp1\ConsoleApp1\Program.cs:line 15

"Console.WriteLine(nobj.Value.Name);" 코드에서 예외가 발생하는 것은 일면 이해가 됩니다. 왜냐하면 이때의 SmallObject 인스턴스의 값은 다음과 같이 구성되어 있으므로,

ObjectHeader            TypeHandle   Name                  Age
...[garbage_value]...   01445574     ...[garbage_addr]...  ...[garbage_value]... 

쓰레기 값으로 채워진 Name을 접근하게 되면 당연히 높은 확률로 AV 예외가 발생합니다. 하지만, nobj.Value.Name = "test"; 코드에서 예외가 발생하는 것은 왜일까요? 그 이유는, 예전에 설명한 Card table의 운용으로 인해 발생합니다.

.NET GC - 하위 세대의 객체를 포함하는 상위 세대의 참조를 추적하기 위한 card-table
; https://www.sysnet.pe.kr/2/0/1670

실제로 AV 오류가 발생한 지점을 추적해 보면,

clr!JIT_WriteBarrierEAX:
74a0ec00 8902            mov     dword ptr [edx],eax
74a0ec02 81f80c109302    cmp     eax,293100Ch
74a0ec08 720d            jb      clr!JIT_WriteBarrierEAX+0x17 (74a0ec17)
74a0ec0a c1ea0a          shr     edx,0Ah
74a0ec0d 90              nop
74a0ec0e 80ba605b6f02ff  cmp     byte ptr [edx+26F5B60h],0FFh
74a0ec15 7503            jne     clr!JIT_WriteBarrierEAX+0x1a (74a0ec1a)
74a0ec17 c3              ret

저 라인에서 예외가 발생합니다. 아마도 저 값은 정상적으로 GC Heap에 할당된 개체만이 (26F5B60h 오프셋으로 연산 시) 접근할 수 있는 위치로 보입니다. 따라서, 결국 타입 내에 참조 타입의 필드는 허용할 수 없는 것입니다.

그런데, 사실 저 문제가 아니어도 참조 개체를 담을 수는 없습니다. 왜냐하면, 저렇게 Native Heap에서 GC 힙에 있는 개체의 주소를 담으면 나중에 GC의 메모리 수집 후 틀어질 수 있기 때문입니다. 즉, GC의 영향으로 기존 개체의 주소는 바뀌겠지만 이때 Native Heap의 존재를 알 수 없는 GC 입장에서는 바뀐 주소를 Native Heap에까지 반영을 하지 않기 때문에 나중에는 필연적으로 AV 예외가 발생할 수밖에 없습니다.

따라서, 저것이 정상적으로 동작하려면 1) 참조 형식의 필드인 경우 JIT_WriteBarrierEAX 호출을 막는 수단이 필요하고, 2) 개체가 NativeClass.InitObj로 생성되었다면 그 내부의 모든 참조 개체 필드들도 NativeClass.InitObj를 이용해 생성한 것만을 담을 수 있게 바꿔야 합니다.

설령 저 기능들을 모두 구현한다고 해도, 과연... 성능을 위해 코드가 그렇게까지 복잡해지는 것을 허용해야 할 것인지는 충분한 고민을 해야 할 것입니다.




결국 인스턴스 내부에 참조 개체를 담을 수 없다는 제약이 있는 것이므로, 반대로 일반적인 값 타입이라면 사용할 수도 있을 것입니다. 그러고 보니 제네릭 제약 중에 그런 타입만을 강제하는 unmanaged가 있었습니다.

C# 7.3 - unmanaged(blittable) 제네릭 제약
; https://www.sysnet.pe.kr/2/0/11558

그러니까, 저 조건에 부합하는 타입은 SuperComicLib.LowLevel 라이브러리를 이용해 스택 대신 Native 메모리로 이전할 수 있는 것입니다. 물론, 값 타입은 애당초 스택에 할당되므로 GC와는 무관하기에 성능 향상을 위해 크게 장점이 될 수는 없습니다. 단지, 일반적인 스택의 기본 크기가 1MB라는 것을 감안했을 때 값 형식의 개체를 제한 없이 생성할 수 있다는 정도가 SuperComicLib.LowLevel의 장점이 될 수 있겠습니다.

하지만 현실적으로 봤을 때 최소 string은 담을 수 있어야 하므로, string만이라도 특별하게 Native 메모리로 할당해 처리해 주는 기능을 추가하면 더 좋을 듯합니다.

개인적으로는, 그래도 SuperComicLib.LowLevel 라이브러리가 이런 작업을 시도해봤다는 것에 더 큰 의미가 있다고 봅니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 9/10/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2021-02-19 08시07분
[슈퍼코믹] 앗 이렇게 언급해주셔서 너무너무 감사드립니다!

지적해주신 문제들은 인지하고있던 부분이었습니다 ㅎㅎ
더 세부적으로 분석해주셔서 나름 참고도 되었습니다. 감사합니다^^
물론 아직은 제 자신이 부족해서 제가 더 어떻게 건드릴순 없는 부분이지만,, 언젠간 꼭 고쳐보겠습니다 @@

제가 초등학교 6학년때 vb로 입문한 뒤, 이후 c#으로 넘어갈때 정성태님이 작성하신 몇몇개의 포스트를 하루종일 읽었던 기억도 납니다.
LowLevel 라이브러리에 대한 구상은 고등학교 1학년을 마칠때즈음부터 했던것 같습니다.
당시엔 객체 생성 기능을 추가하리라곤 상상도 못했으나, 어쩌다보니 욕심이생겨 무리하게 추가하게된 것 같습니다 ^^;;

개인적으로 가장 존경하는 분께 이렇게라도 언급되니 부끄러우면서도 기쁩니다 ^^**
[guest]
2021-02-20 11시36분
@슈퍼코믹 어떻게 고쳐질지 기대가 되는군요. ^^ 그리고, 해당 글들을 영문으로 소개해 놓으면 아마도 해외 개발자들도 많이 보게 될 것입니다. 개인적으로 관련 내용에 대한 실제 구현 코드를 다른 곳에서는 본 적이 없는데, 따라서 다른 이들에게 좋은 예시로 회자될 수 있습니다. (아울러, 이후 프로그래머로서의 발전도 기대되고. ^^)
정성태

... 31  32  33  34  35  36  37  38  39  [40]  41  42  43  44  45  ...
NoWriterDateCnt.TitleFile(s)
12942정성태1/27/202216389.NET Framework: 1141. XmlSerializer와 Dictionary 타입파일 다운로드1
12941정성태1/26/202217597오류 유형: 790. AKS/k8s - pod 상태가 Pending으로 지속되는 경우
12940정성태1/26/202214036오류 유형: 789. AKS에서 hpa에 따른 autoscale 기능이 동작하지 않는다면?
12939정성태1/25/202215166.NET Framework: 1140. C# - ffmpeg(FFmpeg.AutoGen)를 이용해 MP3 오디오 파일 인코딩/디코딩하는 예제파일 다운로드1
12938정성태1/24/202218379개발 환경 구성: 633. Docker Desktop + k8s 환경에서 local 이미지를 사용하는 방법
12937정성태1/24/202216103.NET Framework: 1139. C# - ffmpeg(FFmpeg.AutoGen)를 이용해 오디오(mp2) 인코딩하는 예제(encode_audio.c) [2]파일 다운로드1
12936정성태1/22/202215561.NET Framework: 1138. C# - ffmpeg(FFmpeg.AutoGen)를 이용해 멀티미디어 파일의 메타데이터를 보여주는 예제(metadata.c)파일 다운로드1
12935정성태1/22/202216262.NET Framework: 1137. ffmpeg의 파일 해시 예제(ffhash.c)를 C#으로 포팅파일 다운로드1
12934정성태1/22/202215692오류 유형: 788. Warning C6262 Function uses '65564' bytes of stack: exceeds /analyze:stacksize '16384'. Consider moving some data to heap. [2]
12933정성태1/21/202216106.NET Framework: 1136. C# - ffmpeg(FFmpeg.AutoGen)를 이용해 MP2 오디오 파일 디코딩 예제(decode_audio.c)파일 다운로드1
12932정성태1/20/202217255.NET Framework: 1135. C# - ffmpeg(FFmpeg.AutoGen)로 하드웨어 가속기를 이용한 비디오 디코딩 예제(hw_decode.c) [2]파일 다운로드1
12931정성태1/20/202213737개발 환경 구성: 632. ASP.NET Core 프로젝트를 AKS/k8s에 올리는 과정
12930정성태1/19/202214968개발 환경 구성: 631. AKS/k8s의 Volume에 파일 복사하는 방법
12929정성태1/19/202215018개발 환경 구성: 630. AKS/k8s의 Pod에 Volume 연결하는 방법
12928정성태1/18/202214759개발 환경 구성: 629. AKS/Kubernetes에서 호스팅 중인 pod에 shell(/bin/bash)로 진입하는 방법
12927정성태1/18/202215459개발 환경 구성: 628. AKS 환경에 응용 프로그램 배포 방법
12926정성태1/17/202215210오류 유형: 787. AKS - pod 배포 시 ErrImagePull/ImagePullBackOff 오류
12925정성태1/17/202215964개발 환경 구성: 627. AKS의 준비 단계 - ACR(Azure Container Registry)에 docker 이미지 배포
12924정성태1/15/202217390.NET Framework: 1134. C# - ffmpeg(FFmpeg.AutoGen)를 이용한 비디오 디코딩 예제(decode_video.c) [2]파일 다운로드1
12923정성태1/15/202216190개발 환경 구성: 626. ffmpeg.exe를 사용해 비디오 파일을 MPEG1 포맷으로 변경하는 방법
12922정성태1/14/202214999개발 환경 구성: 625. AKS - Azure Kubernetes Service 생성 및 SLO/SLA 변경 방법
12921정성태1/14/202212658개발 환경 구성: 624. Docker Desktop에서 별도 서버에 설치한 docker registry에 이미지 올리는 방법
12920정성태1/14/202213972오류 유형: 786. Camtasia - An error occurred with the camera: Failed to Add Video Sampler.
12919정성태1/13/202213539Windows: 199. Host Network Service (HNS)에 의해서 점유되는 포트
12918정성태1/13/202214024Linux: 47. WSL - shell script에서 설정한 환경 변수가 스크립트 실행 후 반영되지 않는 문제
12917정성태1/12/202213237오류 유형: 785. C# - The type or namespace name '...' could not be found (are you missing a using directive or an assembly reference?)
... 31  32  33  34  35  36  37  38  39  [40]  41  42  43  44  45  ...