Microsoft MVP성태의 닷넷 이야기
닷넷: 2211. C# - NonGC(FOH) 영역에 .NET 개체를 생성 [링크 복사], [링크+제목 복사],
조회: 2556
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

(시리즈 글이 3개 있습니다.)
.NET Framework: 1023. C# - GC 힙이 아닌 Native 힙에 인스턴스 생성 - 0SuperComicLib.LowLevel 라이브러리 소개
; https://www.sysnet.pe.kr/2/0/12538

닷넷: 2210. C# - Native 메모리에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13537

닷넷: 2211. C# - NonGC(FOH) 영역에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13538




C# - NonGC(FOH) 영역에 .NET 개체를 생성

지난 글에서,

C# - Native 메모리에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13537

.NET 개체를 임의로 네이티브 메모리에 생성하는 방법을 알아봤는데요, 재미있는 건 마이크로소프트도 이미 저 방식을 CLR 내부에서 사용하고 있었다는 점입니다. 그런 의미에서 FOH를 다시 한번 읽어보시면,

.NET 8 - NonGC Heap / FOH (Frozen Object Heap)
; https://www.sysnet.pe.kr/2/0/13536

이번엔 새롭게 해석이 될 것입니다. 그리고 저 2개의 글을 이해하셨다면, 이제 아래의 글이 더욱 재미있을 것입니다. ^^

Exploring .NET frozen segments
; https://minidump.net/exploring-frozen-segments/

현재 FOH는 마이크로소프트 내부에서만 사용하고 있을 텐데, 위의 글에서는 숨겨져 있는 메서드를 사용해 우리도 FOH를 등록/해제할 수 있는 방법을 소개하고 있습니다.

핵심은 공개되지 않은 메서드 2개인데요, 따라서 현재는 Reflection으로 이렇게 감싸야 합니다.

using System.Reflection;

namespace ConsoleApp1;

internal class GCExtension
{
    internal static IntPtr RegisterFrozenSegment(IntPtr sectionAddress, nint sectionSize)
    {
        return (IntPtr)typeof(GC).GetMethod("_RegisterFrozenSegment", BindingFlags.NonPublic | BindingFlags.Static)!
            .Invoke(null, [sectionAddress, sectionSize])!;
    }

    internal static void UnregisterFrozenSegment(IntPtr segment)
    {
        typeof(GC).GetMethod("_UnregisterFrozenSegment", BindingFlags.NonPublic | BindingFlags.Static)!
            .Invoke(null, [segment]);
    }
}

그럼 ^^ 위의 메서드를 이용해서 지난 글에서처럼 닷넷 개체를 FOH에 등록해 볼까요? 이번엔 MyObject 사용자 개체 대신 문자열을 생성해 볼 텐데요, 코드는 다음과 같이 정리할 수 있습니다.

// https://minidump.net/exploring-frozen-segments/
public class StringExtension
{
    public static int GetAllocatedStringSize(ReadOnlySpan<char> data)
    {
        int headerSize = IntPtr.Size + IntPtr.Size + sizeof(int); // object header + method-table ptr + len(string)
        return headerSize + ((data.Length + 1) * sizeof(char));
    }

    public static unsafe string AllocateString(void* address, ReadOnlySpan<char> data)
    {
        var ptr = (byte*)address;

        // Write the header
        *(nint*)ptr = 0;
        ptr += sizeof(nint);

        // Retrieve the method-table pointer
        var mt = typeof(string).TypeHandle.Value;

        // Write it
        *(nint*)ptr = mt;
        ptr += sizeof(nint);

        *(int*)ptr = data.Length;
        ptr += sizeof(int);

        var destination = new Span<char>(ptr, data.Length + 1);

        data.CopyTo(destination);
        destination[^1] = '\0';

        var strRef = (nint)address + sizeof(nint);
        return Unsafe.As<nint, string>(ref strRef);
    }
}

이를 이용해 네이티브 메모리를 할당한 후 문자열 복사를 다음과 같이 할 수 있습니다.

string text = new string('c', short.MaxValue * 2);

int objectSize = StringExtension.GetAllocatedStringSize(text);

/* NativeMemory.AlignedAlloc
The current design of CoreCLR's FrozenObjectHeapManager has certain design limitations such as:
    * Large objects are not supported.
    * Objects requiring unusual data alignment are not supported.
*/
var allocated = NativeMemory.AlignedAlloc((nuint)objectSize, (nuint)IntPtr.Size);
NativeMemory.Clear(allocated, (nuint)objectSize);

// textOnNative == 네이티브 메모리에 보관한 문자열 개체
string textOnNative = StringExtension.AllocateString(allocated, text);

마지막으로, 저렇게 구성한 네이티브 메모리를 FOH에 등록만 해주면 됩니다.

var segment = GCExtension.RegisterFrozenSegment((IntPtr)allocated, objectSize);

fixed (char* ptr = textOnNative)
{
    Console.WriteLine($"address of text: {(nint)ptr:x}");
}

Console.WriteLine($"address of AlignedAlloc: {(nint)allocated:x}");
Console.WriteLine($"address of FOH: {segment:x}");

Console.WriteLine("Press any key to exit...");
Console.ReadLine();

GCExtension.UnregisterFrozenSegment(segment);

실행 시 중간에 넣어둔 출력 결과가 이렇게 나오고,

address of text: 1e48045f18c
address of AlignedAlloc: 1e48045f178
address of FOH: 1e4e3b2d9d0

이와 함께 Console.ReadLine으로 걸렸을 때 windbg로 연결하면 이런 결과가 나옵니다.

0:014> !eeheap
...[생략]...
========================================
Number of GC Heaps: 1
----------------------------------------
Small object heap
         segment            begin        allocated        committed allocated size   committed size  
generation 0:
    0224f990f320     01e4e8400028     01e4e841f0e0     01e4e8421000 0x1f0b8 (127160) 0x21000 (135168)
generation 1:
    0224f990f270     01e4e8000028     01e4e8000028     01e4e8001000                  0x1000 (4096)   
generation 2:
    0224f990f1c0     01e4e7c00028     01e4e7c00028     01e4e7c01000                  0x1000 (4096)   
Frozen object heap
         segment            begin        allocated        committed allocated size   committed size  
    01e4e3aa7620     01e480000008     01e480003d30     01e480010000 0x3d28 (15656)   0x10000 (65536) 
    01e4e3b2d9d0     01e48045f180     01e48047f18a     01e48047f18a 0x2000a (131082) 0x20012 (131090)
Large object heap
         segment            begin        allocated        committed allocated size   committed size  
    0224f990f3d0     01e4e8800028     01e4e8820060     01e4e8821000 0x20038 (131128) 0x21000 (135168)
Pinned object heap
         segment            begin        allocated        committed allocated size   committed size  
    0224f990ec40     01e4e5c00028     01e4e5c07ff0     01e4e5c11000 0x7fc8 (32712)   0x11000 (69632) 
------------------------------
GC Allocated Heap Size:    Size: 0x6adea (437738) bytes.
GC Committed Heap Size:    Size: 0x85012 (544786) bytes.

Total bytes consumed by CLR: 0x39c012 (3784722)

우리가 출력한 "address of FOH"의 값이 segment 칼럼 값에 해당하고, "address of AlignedAlloc"에 +8을 한 값이 "begin" 칼럼으로 사용되고 있습니다. 그러니까, Object Header를 넘어서 Method Table을 가리키는 첫 번째 개체의 위치를 "begin"으로 나타내고 있는 것입니다.

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




FOH의 특성상 불멸 객체만 담아둔다고 했는데요, 따라서 관리 개체의 메모리 구조만 맞춰서 저렇게 만들어 두면 GC의 영향도 받지 않으니 속도 향상에 나름 기여할 수 있습니다. 게다가 이를 기반으로 FOH 영역임을 런타임에서 인식할 수 있다면 RyuJit의 입장에서도 그 영역에 담긴 개체들은 불멸할 것임을 보증 받을 수 있으므로 코드 생성에 유리했을 것으로 추측이 됩니다.

그런데, 그런 의도와는 다르게 _RegisterFrozenSegment와 함께 _UnregisterFrozenSegment까지 만들어 두었다는 것이 재미있습니다. 물론 Unregister를 해도 영향은 없을 것입니다. 중요한 것은 네이티브 메모리를 해제만 하지 않으면 되기 때문인데, 어쨌든 닷넷 런타임 측에서도 아마 프로세스 종료 시점에나 Unregister/Free를 같이 하는 식이지 않을까 싶습니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 1/25/2024]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




1  2  3  4  5  6  7  8  9  10  [11]  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13367정성태6/10/20233694오류 유형: 864. openssl로 만든 pfx 인증서를 Windows Server 2016 이하에서 등록 시 "The password you entered is incorrect" 오류 발생
13366정성태6/10/20233450.NET Framework: 2128. C# - 윈도우 시스템에서 지원하는 암호화 목록(Cipher Suites) 나열파일 다운로드1
13365정성태6/8/20233160오류 유형: 863. MODIFY FILE encountered operating system error 112(failed to retrieve text for this error. Reason: 15105)
13364정성태6/8/20233994.NET Framework: 2127. C# - Ubuntu + Microsoft.Data.SqlClient + SQL Server 2008 R2 연결 방법 [1]
13363정성태6/7/20233579스크립트: 49. 파이썬 - "Transformers (신경망 언어모델 라이브러리) 강좌" - 1장 2절 코드 실행 결과
13362정성태6/1/20233549.NET Framework: 2126. C# - 서버 측의 요청 제어 (Microsoft.AspNetCore.RateLimiting)파일 다운로드1
13361정성태5/31/20233902오류 유형: 862. Facebook - ASP.NET/WebClient 사용 시 graph.facebook.com/me 호출에 대해 403 Forbidden 오류
13360정성태5/31/20233264오류 유형: 861. WSL/docker - failed to start shim: start failed: io.containerd.runc.v2: create new shim socket
13359정성태5/19/20233569오류 유형: 860. Docker Desktop - k8s 초기화 무한 반복한다면?
13358정성태5/17/20233983.NET Framework: 2125. C# - Semantic Kernel의 Semantic Memory 사용 예제 [1]파일 다운로드1
13357정성태5/16/20233816.NET Framework: 2124. C# - Semantic Kernel의 Planner 사용 예제파일 다운로드1
13356정성태5/15/20234147DDK: 10. Device Driver 테스트 설치 관련 오류 (Code 37, Code 31) 및 인증서 관련 정리
13355정성태5/12/20234087.NET Framework: 2123. C# - Semantic Kernel의 ChatGPT 대화 구현 [1]파일 다운로드1
13354정성태5/12/20234250.NET Framework: 2122. C# - "Use Unicode UTF-8 for worldwide language support" 설정을 한 경우, 한글 입력이 '\0' 문자로 처리
13352정성태5/12/20233900.NET Framework: 2121. C# - Semantic Kernel의 대화 문맥 유지파일 다운로드1
13351정성태5/11/20234398VS.NET IDE: 185. Visual Studio - 원격 Docker container 내에 실행 중인 응용 프로그램에 대한 디버깅 [1]
13350정성태5/11/20233667오류 유형: 859. Windows Date and Time - Unable to continue. You do not have permission to perform this task
13349정성태5/11/20234000.NET Framework: 2120. C# - Semantic Kernel의 Skill과 Function 사용 예제파일 다운로드1
13348정성태5/10/20233900.NET Framework: 2119. C# - Semantic Kernel의 "Basic Loading of the Kernel" 예제
13347정성태5/10/20234309.NET Framework: 2118. C# - Semantic Kernel의 Prompt chaining 예제파일 다운로드1
13346정성태5/10/20234145오류 유형: 858. RDP 원격 환경과 로컬 PC 간의 Ctrl+C, Ctrl+V 복사가 안 되는 문제
13345정성태5/9/20235573.NET Framework: 2117. C# - (OpenAI 기반의) Microsoft Semantic Kernel을 이용한 자연어 처리 [1]파일 다운로드1
13344정성태5/9/20236677.NET Framework: 2116. C# - OpenAI API 사용 - 지원 모델 목록 [1]파일 다운로드1
13343정성태5/9/20234610디버깅 기술: 192. Windbg - Hyper-V VM으로 이더넷 원격 디버깅 연결하는 방법
13342정성태5/8/20234455.NET Framework: 2115. System.Text.Json의 역직렬화 시 필드/속성 주의
13341정성태5/8/20234203닷넷: 2114. C# 12 - 모든 형식의 별칭(Using aliases for any type)
1  2  3  4  5  6  7  8  9  10  [11]  12  13  14  15  ...