Microsoft MVP성태의 닷넷 이야기
닷넷: 2211. C# - NonGC(FOH) 영역에 .NET 개체를 생성 [링크 복사], [링크+제목 복사],
조회: 2706
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

(시리즈 글이 3개 있습니다.)
.NET Framework: 1023. C# - GC 힙이 아닌 Native 힙에 인스턴스 생성 - 0SuperComicLib.LowLevel 라이브러리 소개
; https://www.sysnet.pe.kr/2/0/12538

닷넷: 2210. C# - Native 메모리에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13537

닷넷: 2211. C# - NonGC(FOH) 영역에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13538




C# - NonGC(FOH) 영역에 .NET 개체를 생성

지난 글에서,

C# - Native 메모리에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13537

.NET 개체를 임의로 네이티브 메모리에 생성하는 방법을 알아봤는데요, 재미있는 건 마이크로소프트도 이미 저 방식을 CLR 내부에서 사용하고 있었다는 점입니다. 그런 의미에서 FOH를 다시 한번 읽어보시면,

.NET 8 - NonGC Heap / FOH (Frozen Object Heap)
; https://www.sysnet.pe.kr/2/0/13536

이번엔 새롭게 해석이 될 것입니다. 그리고 저 2개의 글을 이해하셨다면, 이제 아래의 글이 더욱 재미있을 것입니다. ^^

Exploring .NET frozen segments
; https://minidump.net/exploring-frozen-segments/

현재 FOH는 마이크로소프트 내부에서만 사용하고 있을 텐데, 위의 글에서는 숨겨져 있는 메서드를 사용해 우리도 FOH를 등록/해제할 수 있는 방법을 소개하고 있습니다.

핵심은 공개되지 않은 메서드 2개인데요, 따라서 현재는 Reflection으로 이렇게 감싸야 합니다.

using System.Reflection;

namespace ConsoleApp1;

internal class GCExtension
{
    internal static IntPtr RegisterFrozenSegment(IntPtr sectionAddress, nint sectionSize)
    {
        return (IntPtr)typeof(GC).GetMethod("_RegisterFrozenSegment", BindingFlags.NonPublic | BindingFlags.Static)!
            .Invoke(null, [sectionAddress, sectionSize])!;
    }

    internal static void UnregisterFrozenSegment(IntPtr segment)
    {
        typeof(GC).GetMethod("_UnregisterFrozenSegment", BindingFlags.NonPublic | BindingFlags.Static)!
            .Invoke(null, [segment]);
    }
}

그럼 ^^ 위의 메서드를 이용해서 지난 글에서처럼 닷넷 개체를 FOH에 등록해 볼까요? 이번엔 MyObject 사용자 개체 대신 문자열을 생성해 볼 텐데요, 코드는 다음과 같이 정리할 수 있습니다.

// https://minidump.net/exploring-frozen-segments/
public class StringExtension
{
    public static int GetAllocatedStringSize(ReadOnlySpan<char> data)
    {
        int headerSize = IntPtr.Size + IntPtr.Size + sizeof(int); // object header + method-table ptr + len(string)
        return headerSize + ((data.Length + 1) * sizeof(char));
    }

    public static unsafe string AllocateString(void* address, ReadOnlySpan<char> data)
    {
        var ptr = (byte*)address;

        // Write the header
        *(nint*)ptr = 0;
        ptr += sizeof(nint);

        // Retrieve the method-table pointer
        var mt = typeof(string).TypeHandle.Value;

        // Write it
        *(nint*)ptr = mt;
        ptr += sizeof(nint);

        *(int*)ptr = data.Length;
        ptr += sizeof(int);

        var destination = new Span<char>(ptr, data.Length + 1);

        data.CopyTo(destination);
        destination[^1] = '\0';

        var strRef = (nint)address + sizeof(nint);
        return Unsafe.As<nint, string>(ref strRef);
    }
}

이를 이용해 네이티브 메모리를 할당한 후 문자열 복사를 다음과 같이 할 수 있습니다.

string text = new string('c', short.MaxValue * 2);

int objectSize = StringExtension.GetAllocatedStringSize(text);

/* NativeMemory.AlignedAlloc
The current design of CoreCLR's FrozenObjectHeapManager has certain design limitations such as:
    * Large objects are not supported.
    * Objects requiring unusual data alignment are not supported.
*/
var allocated = NativeMemory.AlignedAlloc((nuint)objectSize, (nuint)IntPtr.Size);
NativeMemory.Clear(allocated, (nuint)objectSize);

// textOnNative == 네이티브 메모리에 보관한 문자열 개체
string textOnNative = StringExtension.AllocateString(allocated, text);

마지막으로, 저렇게 구성한 네이티브 메모리를 FOH에 등록만 해주면 됩니다.

var segment = GCExtension.RegisterFrozenSegment((IntPtr)allocated, objectSize);

fixed (char* ptr = textOnNative)
{
    Console.WriteLine($"address of text: {(nint)ptr:x}");
}

Console.WriteLine($"address of AlignedAlloc: {(nint)allocated:x}");
Console.WriteLine($"address of FOH: {segment:x}");

Console.WriteLine("Press any key to exit...");
Console.ReadLine();

GCExtension.UnregisterFrozenSegment(segment);

실행 시 중간에 넣어둔 출력 결과가 이렇게 나오고,

address of text: 1e48045f18c
address of AlignedAlloc: 1e48045f178
address of FOH: 1e4e3b2d9d0

이와 함께 Console.ReadLine으로 걸렸을 때 windbg로 연결하면 이런 결과가 나옵니다.

0:014> !eeheap
...[생략]...
========================================
Number of GC Heaps: 1
----------------------------------------
Small object heap
         segment            begin        allocated        committed allocated size   committed size  
generation 0:
    0224f990f320     01e4e8400028     01e4e841f0e0     01e4e8421000 0x1f0b8 (127160) 0x21000 (135168)
generation 1:
    0224f990f270     01e4e8000028     01e4e8000028     01e4e8001000                  0x1000 (4096)   
generation 2:
    0224f990f1c0     01e4e7c00028     01e4e7c00028     01e4e7c01000                  0x1000 (4096)   
Frozen object heap
         segment            begin        allocated        committed allocated size   committed size  
    01e4e3aa7620     01e480000008     01e480003d30     01e480010000 0x3d28 (15656)   0x10000 (65536) 
    01e4e3b2d9d0     01e48045f180     01e48047f18a     01e48047f18a 0x2000a (131082) 0x20012 (131090)
Large object heap
         segment            begin        allocated        committed allocated size   committed size  
    0224f990f3d0     01e4e8800028     01e4e8820060     01e4e8821000 0x20038 (131128) 0x21000 (135168)
Pinned object heap
         segment            begin        allocated        committed allocated size   committed size  
    0224f990ec40     01e4e5c00028     01e4e5c07ff0     01e4e5c11000 0x7fc8 (32712)   0x11000 (69632) 
------------------------------
GC Allocated Heap Size:    Size: 0x6adea (437738) bytes.
GC Committed Heap Size:    Size: 0x85012 (544786) bytes.

Total bytes consumed by CLR: 0x39c012 (3784722)

우리가 출력한 "address of FOH"의 값이 segment 칼럼 값에 해당하고, "address of AlignedAlloc"에 +8을 한 값이 "begin" 칼럼으로 사용되고 있습니다. 그러니까, Object Header를 넘어서 Method Table을 가리키는 첫 번째 개체의 위치를 "begin"으로 나타내고 있는 것입니다.

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




FOH의 특성상 불멸 객체만 담아둔다고 했는데요, 따라서 관리 개체의 메모리 구조만 맞춰서 저렇게 만들어 두면 GC의 영향도 받지 않으니 속도 향상에 나름 기여할 수 있습니다. 게다가 이를 기반으로 FOH 영역임을 런타임에서 인식할 수 있다면 RyuJit의 입장에서도 그 영역에 담긴 개체들은 불멸할 것임을 보증 받을 수 있으므로 코드 생성에 유리했을 것으로 추측이 됩니다.

그런데, 그런 의도와는 다르게 _RegisterFrozenSegment와 함께 _UnregisterFrozenSegment까지 만들어 두었다는 것이 재미있습니다. 물론 Unregister를 해도 영향은 없을 것입니다. 중요한 것은 네이티브 메모리를 해제만 하지 않으면 되기 때문인데, 어쨌든 닷넷 런타임 측에서도 아마 프로세스 종료 시점에나 Unregister/Free를 같이 하는 식이지 않을까 싶습니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 1/25/2024]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




... 31  32  33  34  [35]  36  37  38  39  40  41  42  43  44  45  ...
NoWriterDateCnt.TitleFile(s)
12774정성태8/11/20219132.NET Framework: 1087. C# - Collection 개체의 다중 스레드 접근 시 "Operations that change non-concurrent collections must have exclusive access" 예외 발생
12773정성태8/11/20218321개발 환경 구성: 595. PyCharm - WSL과 연동해 Django App을 윈도우에서 리눅스 대상으로 개발
12772정성태8/11/20219752스크립트: 21. 파이썬 - 윈도우 환경에서 개발한 Django 앱을 WSL 환경의 uwsgi를 이용해 실행 [1]
12771정성태8/11/20218208Windows: 196. "Microsoft Windows Subsystem for Linux Background Host" / "Vmmem"을 종료하는 방법
12770정성태8/11/20219022.NET Framework: 1086. C# - Windows Forms 응용 프로그램의 자식 컨트롤 부하파일 다운로드1
12769정성태8/11/20216804오류 유형: 752. Python - ImportError: No module named pip._internal.cli.main 두 번째 이야기
12768정성태8/10/20217909.NET Framework: 1085. .NET 6에 포함된 신규 BCL API [1]파일 다운로드1
12767정성태8/10/20218958오류 유형: 752. Python - ImportError: No module named pip._internal.cli.main
12766정성태8/9/20217409Java: 32. closing inbound before receiving peer's close_notify
12765정성태8/9/20216754Java: 31. Cannot load JDBC driver class 'org.mysql.jdbc.Driver'
12764정성태8/9/202145229Java: 30. XML document from ServletContext resource [/WEB-INF/applicationContext.xml] is invalid
12763정성태8/9/20218263Java: 29. java.lang.NullPointerException - com.mysql.jdbc.ConnectionImpl.getServerCharset
12762정성태8/8/202111785Java: 28. IntelliJ - Unable to open debugger port 오류
12761정성태8/8/20218924Java: 27. IntelliJ - java: package javax.inject does not exist [2]
12760정성태8/8/20216266개발 환경 구성: 594. 전용 "Command Prompt for ..." 단축 아이콘 만들기
12759정성태8/8/20219532Java: 26. IntelliJ + Spring Framework + 새로운 Controller 추가 [2]파일 다운로드1
12758정성태8/7/20218855오류 유형: 751. Error assembling WAR: webxml attribute is required (or pre-existing WEB-INF/web.xml if executing in update mode)
12757정성태8/7/20219557Java: 25. IntelliJ + Spring Framework 프로젝트 생성
12756정성태8/6/20218285.NET Framework: 1084. C# - .NET Core Web API 단위 테스트 방법 [1]파일 다운로드1
12755정성태8/5/20217506개발 환경 구성: 593. MSTest - 단위 테스트에 static/instance 유형의 private 멤버 접근 방법파일 다운로드1
12754정성태8/5/20218368오류 유형: 750. manage.py - Your project may not work properly until you apply the migrations for app(s): admin, auth, contenttypes, sessions.
12753정성태8/5/20218626오류 유형: 749. PyCharm - Error: Django is not importable in this environment
12752정성태8/4/20216702개발 환경 구성: 592. JetBrains의 IDE(예를 들어, PyCharm)에서 Visual Studio 키보드 매핑 적용
12751정성태8/4/20219794개발 환경 구성: 591. Windows 10 WSL2 환경에서 docker-compose 빌드하는 방법
12750정성태8/3/20216557디버깅 기술: 181. windbg - 콜 스택의 "Call Site" 오프셋 값이 가리키는 위치
12749정성태8/2/20215952개발 환경 구성: 590. Visual Studio 2017부터 단위 테스트에 DataRow 특성 지원
... 31  32  33  34  [35]  36  37  38  39  40  41  42  43  44  45  ...