Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 1개 있습니다.)
(시리즈 글이 3개 있습니다.)
.NET Framework: 1023. C# - GC 힙이 아닌 Native 힙에 인스턴스 생성 - 0SuperComicLib.LowLevel 라이브러리 소개
; https://www.sysnet.pe.kr/2/0/12538

닷넷: 2210. C# - Native 메모리에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13537

닷넷: 2211. C# - NonGC(FOH) 영역에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13538




C# - GC 힙이 아닌 Native 힙에 인스턴스 생성 - 0SuperComicLib.LowLevel 라이브러리 소개

재미있는 라이브러리가 있군요. ^^

[C#] 수동 메모리 관리 객체
; https://blog.naver.com/ekfvoddl3535/222066803012

사용법은, NativeClass를 이용해 감싸고 있기 때문에 그나마 간단하게 다음과 같은 식으로 코딩할 수 있습니다.

using SuperComicLib.LowLevel;
using System;

// Install-Package 0SuperComicLib.LowLevel
class Program
{
    static void Main(string[] args)
    {
        NativeInstance<SmallObject> nobj = NativeClass.InitObj<SmallObject>();

        nobj.Value.Age = 5; // 필드에 쓰레기 값이 있으므로, 사용 전 반드시 값 할당 필요
        Console.WriteLine(nobj.Value.Age); // 출력 결과: 5

        nobj.Dispose(); // 명시적으로 호출해야 메모리 누수가 없음
    }
}

public class SmallObject : IDisposable
{
    public int Age;

    public void Dispose()
    {
        Age = 0;
    }
}

InitObj는 내부적으로 Marshal.AllocHGlobal를 이용해 메모리를 Native Heap으로부터 할당한 후 GC 힙에 할당된 개체처럼 값 구성을 합니다.

C#에서 확인해 보는 관리 힙의 인스턴스 구조
; https://www.sysnet.pe.kr/2/0/1176

따라서, SmallObject 타입이라면 Native 메모리에 다음과 같은 값으로 구성됩니다. (실제로는 해당 라이브러리에서는 값 초기화를 하지 않습니다.)

                            ObjectHeader   TypeHandle   Age                   생성자 실행
GC에서 할당한 경우               00000000   01445574     00000000                  O
InitObj의 경우      ...[garbage_value]...  01445574     ...[garbage_value]...     X

그런 다음 TypeHandle이 위치한 메모리의 주소를 반납하면 CLR에서 실행 시 일반적인 개체처럼 사용할 수 있습니다. 이렇게 보면 이 라이브러리가 예전 질문의 답이 될 수도 있을 것 같습니다. ^^

C#에서 대량의 클래스를 빠르게 생성하는 방법이 없을까요?
; https://www.sysnet.pe.kr/3/0/5393




그렇긴 한데, 예제를 약간 변형해 참조 타입의 필드를 하나 추가한 후 사용하면 예외가 발생합니다.

Console.WriteLine(nobj.Value.Name); // 예외 발생

// 또는

nobj.Value.Name = "test"; // 예외 발생

public class SmallObject : IDisposable
{
    public int Age;
    public string Name;

    public void Dispose()
    {
        Age = 0;
        Name = null;
    }
}

즉, Native 메모리에 할당한 개체가 소유한 참조 타입의 필드인 Name을 접근했을 때 AccessViolationException 예외가 발생합니다.

System.AccessViolationException
  HResult=0x80004003
  Message=Attempted to read or write protected memory. This is often an indication that other memory is corrupt.
  Source=mscorlib
  StackTrace:
   at System.IO.TextWriter.WriteLine(String value) in f:\dd\ndp\clr\src\BCL\system\io\textwriter.cs:line 466
   at System.IO.TextWriter.SyncTextWriter.WriteLine(String value) in f:\dd\ndp\clr\src\BCL\system\io\textwriter.cs:line 838
   at System.Console.WriteLine(String value) in f:\dd\ndp\clr\src\BCL\system\console.cs:line 2085
   at Program.Main(String[] args) in C:\temp\ConsoleApp1\ConsoleApp1\Program.cs:line 15

"Console.WriteLine(nobj.Value.Name);" 코드에서 예외가 발생하는 것은 일면 이해가 됩니다. 왜냐하면 이때의 SmallObject 인스턴스의 값은 다음과 같이 구성되어 있으므로,

ObjectHeader            TypeHandle   Name                  Age
...[garbage_value]...   01445574     ...[garbage_addr]...  ...[garbage_value]... 

쓰레기 값으로 채워진 Name을 접근하게 되면 당연히 높은 확률로 AV 예외가 발생합니다. 하지만, nobj.Value.Name = "test"; 코드에서 예외가 발생하는 것은 왜일까요? 그 이유는, 예전에 설명한 Card table의 운용으로 인해 발생합니다.

.NET GC - 하위 세대의 객체를 포함하는 상위 세대의 참조를 추적하기 위한 card-table
; https://www.sysnet.pe.kr/2/0/1670

실제로 AV 오류가 발생한 지점을 추적해 보면,

clr!JIT_WriteBarrierEAX:
74a0ec00 8902            mov     dword ptr [edx],eax
74a0ec02 81f80c109302    cmp     eax,293100Ch
74a0ec08 720d            jb      clr!JIT_WriteBarrierEAX+0x17 (74a0ec17)
74a0ec0a c1ea0a          shr     edx,0Ah
74a0ec0d 90              nop
74a0ec0e 80ba605b6f02ff  cmp     byte ptr [edx+26F5B60h],0FFh
74a0ec15 7503            jne     clr!JIT_WriteBarrierEAX+0x1a (74a0ec1a)
74a0ec17 c3              ret

저 라인에서 예외가 발생합니다. 아마도 저 값은 정상적으로 GC Heap에 할당된 개체만이 (26F5B60h 오프셋으로 연산 시) 접근할 수 있는 위치로 보입니다. 따라서, 결국 타입 내에 참조 타입의 필드는 허용할 수 없는 것입니다.

그런데, 사실 저 문제가 아니어도 참조 개체를 담을 수는 없습니다. 왜냐하면, 저렇게 Native Heap에서 GC 힙에 있는 개체의 주소를 담으면 나중에 GC의 메모리 수집 후 틀어질 수 있기 때문입니다. 즉, GC의 영향으로 기존 개체의 주소는 바뀌겠지만 이때 Native Heap의 존재를 알 수 없는 GC 입장에서는 바뀐 주소를 Native Heap에까지 반영을 하지 않기 때문에 나중에는 필연적으로 AV 예외가 발생할 수밖에 없습니다.

따라서, 저것이 정상적으로 동작하려면 1) 참조 형식의 필드인 경우 JIT_WriteBarrierEAX 호출을 막는 수단이 필요하고, 2) 개체가 NativeClass.InitObj로 생성되었다면 그 내부의 모든 참조 개체 필드들도 NativeClass.InitObj를 이용해 생성한 것만을 담을 수 있게 바꿔야 합니다.

설령 저 기능들을 모두 구현한다고 해도, 과연... 성능을 위해 코드가 그렇게까지 복잡해지는 것을 허용해야 할 것인지는 충분한 고민을 해야 할 것입니다.




결국 인스턴스 내부에 참조 개체를 담을 수 없다는 제약이 있는 것이므로, 반대로 일반적인 값 타입이라면 사용할 수도 있을 것입니다. 그러고 보니 제네릭 제약 중에 그런 타입만을 강제하는 unmanaged가 있었습니다.

C# 7.3 - unmanaged(blittable) 제네릭 제약
; https://www.sysnet.pe.kr/2/0/11558

그러니까, 저 조건에 부합하는 타입은 SuperComicLib.LowLevel 라이브러리를 이용해 스택 대신 Native 메모리로 이전할 수 있는 것입니다. 물론, 값 타입은 애당초 스택에 할당되므로 GC와는 무관하기에 성능 향상을 위해 크게 장점이 될 수는 없습니다. 단지, 일반적인 스택의 기본 크기가 1MB라는 것을 감안했을 때 값 형식의 개체를 제한 없이 생성할 수 있다는 정도가 SuperComicLib.LowLevel의 장점이 될 수 있겠습니다.

하지만 현실적으로 봤을 때 최소 string은 담을 수 있어야 하므로, string만이라도 특별하게 Native 메모리로 할당해 처리해 주는 기능을 추가하면 더 좋을 듯합니다.

개인적으로는, 그래도 SuperComicLib.LowLevel 라이브러리가 이런 작업을 시도해봤다는 것에 더 큰 의미가 있다고 봅니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 9/10/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2021-02-19 08시07분
[슈퍼코믹] 앗 이렇게 언급해주셔서 너무너무 감사드립니다!

지적해주신 문제들은 인지하고있던 부분이었습니다 ㅎㅎ
더 세부적으로 분석해주셔서 나름 참고도 되었습니다. 감사합니다^^
물론 아직은 제 자신이 부족해서 제가 더 어떻게 건드릴순 없는 부분이지만,, 언젠간 꼭 고쳐보겠습니다 @@

제가 초등학교 6학년때 vb로 입문한 뒤, 이후 c#으로 넘어갈때 정성태님이 작성하신 몇몇개의 포스트를 하루종일 읽었던 기억도 납니다.
LowLevel 라이브러리에 대한 구상은 고등학교 1학년을 마칠때즈음부터 했던것 같습니다.
당시엔 객체 생성 기능을 추가하리라곤 상상도 못했으나, 어쩌다보니 욕심이생겨 무리하게 추가하게된 것 같습니다 ^^;;

개인적으로 가장 존경하는 분께 이렇게라도 언급되니 부끄러우면서도 기쁩니다 ^^**
[guest]
2021-02-20 11시36분
@슈퍼코믹 어떻게 고쳐질지 기대가 되는군요. ^^ 그리고, 해당 글들을 영문으로 소개해 놓으면 아마도 해외 개발자들도 많이 보게 될 것입니다. 개인적으로 관련 내용에 대한 실제 구현 코드를 다른 곳에서는 본 적이 없는데, 따라서 다른 이들에게 좋은 예시로 회자될 수 있습니다. (아울러, 이후 프로그래머로서의 발전도 기대되고. ^^)
정성태

... 31  32  33  [34]  35  36  37  38  39  40  41  42  43  44  45  ...
NoWriterDateCnt.TitleFile(s)
12786정성태8/16/20219654.NET Framework: 1091. C# - Python range 함수 구현 (2) INumber<T>를 이용한 개선 [1]파일 다운로드1
12785정성태8/16/20217920.NET Framework: 1090. .NET 6 Preview 7에 추가된 숫자 형식에 대한 제네릭 연산 지원 [1]파일 다운로드1
12784정성태8/15/20217331오류 유형: 757. 구글 메일 - 아웃룩에서 메일 전송 시 Sending' reported error (0x800CCC0F, 0x800CCC92)
12783정성태8/15/20216881.NET Framework: 1089. C# - Indexer에 Range 및 람다 식을 이용한 필터 구현 [1]파일 다운로드1
12782정성태8/14/20216668오류 유형: 756. 파이썬 - 윈도우 환경에서 pytagcloud의 한글 출력 방법
12781정성태8/14/20218846오류 유형: 755. 파이썬 - konlpy 사용 시 JVM과 jpype1 관련 오류
12780정성태8/13/20217205.NET Framework: 1088. C# - 버스 노선 및 위치 정보 조회 API 사용을 위한 기초 라이브러리 [2]
12779정성태8/13/20219088개발 환경 구성: 596. 공공 데이터 포털에서 버스 노선 및 위치 정보 조회 API 사용법
12778정성태8/12/20216342오류 유형: 755. PyCharm - "Manage Repositories"의 목록이 나오지 않는 문제
12777정성태8/12/20217937오류 유형: 754. Visual Studio - Input or output cannot be redirected because the specified file is invalid.
12776정성태8/12/20217282오류 유형: 753. gunicorn과 uwsgi 함께 사용 시 ERR_CONNECTION_REFUSED
12775정성태8/12/202118010스크립트: 22. 파이썬 - 윈도우 환경에서 개발한 Django 앱을 WSL 환경의 gunicorn을 이용해 실행
12774정성태8/11/20218886.NET Framework: 1087. C# - Collection 개체의 다중 스레드 접근 시 "Operations that change non-concurrent collections must have exclusive access" 예외 발생
12773정성태8/11/20218039개발 환경 구성: 595. PyCharm - WSL과 연동해 Django App을 윈도우에서 리눅스 대상으로 개발
12772정성태8/11/20219550스크립트: 21. 파이썬 - 윈도우 환경에서 개발한 Django 앱을 WSL 환경의 uwsgi를 이용해 실행 [1]
12771정성태8/11/20217960Windows: 196. "Microsoft Windows Subsystem for Linux Background Host" / "Vmmem"을 종료하는 방법
12770정성태8/11/20218660.NET Framework: 1086. C# - Windows Forms 응용 프로그램의 자식 컨트롤 부하파일 다운로드1
12769정성태8/11/20216572오류 유형: 752. Python - ImportError: No module named pip._internal.cli.main 두 번째 이야기
12768정성태8/10/20217663.NET Framework: 1085. .NET 6에 포함된 신규 BCL API [1]파일 다운로드1
12767정성태8/10/20218747오류 유형: 752. Python - ImportError: No module named pip._internal.cli.main
12766정성태8/9/20217225Java: 32. closing inbound before receiving peer's close_notify
12765정성태8/9/20216576Java: 31. Cannot load JDBC driver class 'org.mysql.jdbc.Driver'
12764정성태8/9/202145031Java: 30. XML document from ServletContext resource [/WEB-INF/applicationContext.xml] is invalid
12763정성태8/9/20218042Java: 29. java.lang.NullPointerException - com.mysql.jdbc.ConnectionImpl.getServerCharset
12762정성태8/8/202111643Java: 28. IntelliJ - Unable to open debugger port 오류
12761정성태8/8/20218787Java: 27. IntelliJ - java: package javax.inject does not exist [2]
... 31  32  33  [34]  35  36  37  38  39  40  41  42  43  44  45  ...