Microsoft MVP성태의 닷넷 이야기
닷넷: 2211. C# - NonGC(FOH) 영역에 .NET 개체를 생성 [링크 복사], [링크+제목 복사],
조회: 10675
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

(시리즈 글이 3개 있습니다.)
.NET Framework: 1023. C# - GC 힙이 아닌 Native 힙에 인스턴스 생성 - 0SuperComicLib.LowLevel 라이브러리 소개
; https://www.sysnet.pe.kr/2/0/12538

닷넷: 2210. C# - Native 메모리에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13537

닷넷: 2211. C# - NonGC(FOH) 영역에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13538




C# - NonGC(FOH) 영역에 .NET 개체를 생성

지난 글에서,

C# - Native 메모리에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13537

.NET 개체를 임의로 네이티브 메모리에 생성하는 방법을 알아봤는데요, 재미있는 건 마이크로소프트도 이미 저 방식을 CLR 내부에서 사용하고 있었다는 점입니다. 그런 의미에서 FOH를 다시 한번 읽어보시면,

.NET 8 - NonGC Heap / FOH (Frozen Object Heap)
; https://www.sysnet.pe.kr/2/0/13536

이번엔 새롭게 해석이 될 것입니다. 그리고 저 2개의 글을 이해하셨다면, 이제 아래의 글이 더욱 재미있을 것입니다. ^^

Exploring .NET frozen segments
; https://minidump.net/exploring-frozen-segments/

현재 FOH는 마이크로소프트 내부에서만 사용하고 있을 텐데, 위의 글에서는 숨겨져 있는 메서드를 사용해 우리도 FOH를 등록/해제할 수 있는 방법을 소개하고 있습니다.

핵심은 공개되지 않은 메서드 2개인데요, 따라서 현재는 Reflection으로 이렇게 감싸야 합니다.

using System.Reflection;

namespace ConsoleApp1;

internal class GCExtension
{
    internal static IntPtr RegisterFrozenSegment(IntPtr sectionAddress, nint sectionSize)
    {
        return (IntPtr)typeof(GC).GetMethod("_RegisterFrozenSegment", BindingFlags.NonPublic | BindingFlags.Static)!
            .Invoke(null, [sectionAddress, sectionSize])!;
    }

    internal static void UnregisterFrozenSegment(IntPtr segment)
    {
        typeof(GC).GetMethod("_UnregisterFrozenSegment", BindingFlags.NonPublic | BindingFlags.Static)!
            .Invoke(null, [segment]);
    }
}

그럼 ^^ 위의 메서드를 이용해서 지난 글에서처럼 닷넷 개체를 FOH에 등록해 볼까요? 이번엔 MyObject 사용자 개체 대신 문자열을 생성해 볼 텐데요, 코드는 다음과 같이 정리할 수 있습니다.

// https://minidump.net/exploring-frozen-segments/
public class StringExtension
{
    public static int GetAllocatedStringSize(ReadOnlySpan<char> data)
    {
        int headerSize = IntPtr.Size + IntPtr.Size + sizeof(int); // object header + method-table ptr + len(string)
        return headerSize + ((data.Length + 1) * sizeof(char));
    }

    public static unsafe string AllocateString(void* address, ReadOnlySpan<char> data)
    {
        var ptr = (byte*)address;

        // Write the header
        *(nint*)ptr = 0;
        ptr += sizeof(nint);

        // Retrieve the method-table pointer
        var mt = typeof(string).TypeHandle.Value;

        // Write it
        *(nint*)ptr = mt;
        ptr += sizeof(nint);

        *(int*)ptr = data.Length;
        ptr += sizeof(int);

        var destination = new Span<char>(ptr, data.Length + 1);

        data.CopyTo(destination);
        destination[^1] = '\0';

        var strRef = (nint)address + sizeof(nint);
        return Unsafe.As<nint, string>(ref strRef);
    }
}

이를 이용해 네이티브 메모리를 할당한 후 문자열 복사를 다음과 같이 할 수 있습니다.

string text = new string('c', short.MaxValue * 2);

int objectSize = StringExtension.GetAllocatedStringSize(text);

/* NativeMemory.AlignedAlloc
The current design of CoreCLR's FrozenObjectHeapManager has certain design limitations such as:
    * Large objects are not supported.
    * Objects requiring unusual data alignment are not supported.
*/
var allocated = NativeMemory.AlignedAlloc((nuint)objectSize, (nuint)IntPtr.Size);
NativeMemory.Clear(allocated, (nuint)objectSize);

// textOnNative == 네이티브 메모리에 보관한 문자열 개체
string textOnNative = StringExtension.AllocateString(allocated, text);

마지막으로, 저렇게 구성한 네이티브 메모리를 FOH에 등록만 해주면 됩니다.

var segment = GCExtension.RegisterFrozenSegment((IntPtr)allocated, objectSize);

fixed (char* ptr = textOnNative)
{
    Console.WriteLine($"address of text: {(nint)ptr:x}");
}

Console.WriteLine($"address of AlignedAlloc: {(nint)allocated:x}");
Console.WriteLine($"address of FOH: {segment:x}");

Console.WriteLine("Press any key to exit...");
Console.ReadLine();

GCExtension.UnregisterFrozenSegment(segment);

실행 시 중간에 넣어둔 출력 결과가 이렇게 나오고,

address of text: 1e48045f18c
address of AlignedAlloc: 1e48045f178
address of FOH: 1e4e3b2d9d0

이와 함께 Console.ReadLine으로 걸렸을 때 windbg로 연결하면 이런 결과가 나옵니다.

0:014> !eeheap
...[생략]...
========================================
Number of GC Heaps: 1
----------------------------------------
Small object heap
         segment            begin        allocated        committed allocated size   committed size  
generation 0:
    0224f990f320     01e4e8400028     01e4e841f0e0     01e4e8421000 0x1f0b8 (127160) 0x21000 (135168)
generation 1:
    0224f990f270     01e4e8000028     01e4e8000028     01e4e8001000                  0x1000 (4096)   
generation 2:
    0224f990f1c0     01e4e7c00028     01e4e7c00028     01e4e7c01000                  0x1000 (4096)   
Frozen object heap
         segment            begin        allocated        committed allocated size   committed size  
    01e4e3aa7620     01e480000008     01e480003d30     01e480010000 0x3d28 (15656)   0x10000 (65536) 
    01e4e3b2d9d0     01e48045f180     01e48047f18a     01e48047f18a 0x2000a (131082) 0x20012 (131090)
Large object heap
         segment            begin        allocated        committed allocated size   committed size  
    0224f990f3d0     01e4e8800028     01e4e8820060     01e4e8821000 0x20038 (131128) 0x21000 (135168)
Pinned object heap
         segment            begin        allocated        committed allocated size   committed size  
    0224f990ec40     01e4e5c00028     01e4e5c07ff0     01e4e5c11000 0x7fc8 (32712)   0x11000 (69632) 
------------------------------
GC Allocated Heap Size:    Size: 0x6adea (437738) bytes.
GC Committed Heap Size:    Size: 0x85012 (544786) bytes.

Total bytes consumed by CLR: 0x39c012 (3784722)

우리가 출력한 "address of FOH"의 값이 segment 칼럼 값에 해당하고, "address of AlignedAlloc"에 +8을 한 값이 "begin" 칼럼으로 사용되고 있습니다. 그러니까, Object Header를 넘어서 Method Table을 가리키는 첫 번째 개체의 위치를 "begin"으로 나타내고 있는 것입니다.

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




FOH의 특성상 불멸 객체만 담아둔다고 했는데요, 따라서 관리 개체의 메모리 구조만 맞춰서 저렇게 만들어 두면 GC의 영향도 받지 않으니 속도 향상에 나름 기여할 수 있습니다. 게다가 이를 기반으로 FOH 영역임을 런타임에서 인식할 수 있다면 RyuJit의 입장에서도 그 영역에 담긴 개체들은 불멸할 것임을 보증 받을 수 있으므로 코드 생성에 유리했을 것으로 추측이 됩니다.

그런데, 그런 의도와는 다르게 _RegisterFrozenSegment와 함께 _UnregisterFrozenSegment까지 만들어 두었다는 것이 재미있습니다. 물론 Unregister를 해도 영향은 없을 것입니다. 중요한 것은 네이티브 메모리를 해제만 하지 않으면 되기 때문인데, 어쨌든 닷넷 런타임 측에서도 아마 프로세스 종료 시점에나 Unregister/Free를 같이 하는 식이지 않을까 싶습니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 1/25/2024]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13945정성태6/7/2025314오류 유형: 960. 파이썬 + conda - mysqlclient 사용 시 "NameError: name '_mysql' is not defined" 에러
13944정성태6/7/2025313오류 유형: 959. The trust relationship between this workstation and the primary domain failed. - 네 번째 이야기
13943정성태6/6/2025421개발 환경 구성: 748. Windows + Foundry Local - 로컬에서 AI 모델 활용
13942정성태6/5/2025553오류 유형: 958. winget 설치 시 "0x80d02002 : unknown error"
13941정성태6/2/2025891닷넷: 2334. C# - cpuid 명령어를 이용한 CPU 제조사 문자열 가져오기파일 다운로드1
13940정성태6/1/20251266C/C++: 188. C++의 32비트 + Release 어셈블리 코드를 .NET으로 포팅할 때 주의할 점파일 다운로드1
13939정성태5/29/20251577오류 유형: 957. NVIDIA Triton Inference Server - version `GLIBCXX_3.4.32' not found (required by /opt/tritonserver/backends/python/triton_python_backend_stub)
13938정성태5/29/20251332개발 환경 구성: 747. 파이썬 - WSL/docker에 구성한 Triton 예제 개발 환경
13937정성태5/24/20251344개발 환경 구성: 746. Windows + WSL2 환경에서 (tensorflow 등의) NVIDIA GPU 인식
13936정성태5/23/20251173개발 환경 구성: 745. Linux / WSL 환경에 Miniconda 설치하기
13935정성태5/20/20251169파이썬 - pip 사용 시 "ImportError: cannot import name 'html5lib' from 'pip._vendor'" 오류
13934정성태5/20/20251700스크립트: 77. 파이썬 - 'urllib.request' 모듈의 명시적/암시적 로딩 차이
13933정성태5/19/20251269오류 유형: 956. Visual Studio 2022가 17.12 버전부터 업데이트 되지 않는다면?
13932정성태5/18/20251471스크립트: 76. 파이썬 - Version 문자열 다루기(semver 패키지)
13931정성태5/17/20251754스크립트: 75. 파이썬 - Cython 기본 예제 및 컴파일
13930정성태5/17/20251429개발 환경 구성: 744. 파이썬 - Windows embeddable package 환경에서 외부 패키지 사용하는 방법(ex: UFO² 환경 구성)
13929정성태5/16/20251458오류 유형: 955. 파이썬 - "Windows embeddable package" REPL 환경에서 "NameError: name 'exit' is not defined"
13928정성태5/15/20251521오류 유형: 954. UFO² - "'Invalid URL (POST /v1/chat/completions/chat/completions)'"
13927정성태5/15/20251520오류 유형: 953. OpenAI - The API request of HOST_AGENT failed: OpenAI API request exceeded rate limit: Error code: 429
13926정성태5/14/20251899개발 환경 구성: 743. LLM과 윈도우의 만남 - Desktop AgentOS UFO² 기본 환경 구성
13925정성태5/12/20251996닷넷: 2333. C# - (Console 유형의 프로젝트에서) Clipboard 연동파일 다운로드1
13924정성태5/8/20251725닷넷: 2332. C# - (JetBrains Omea Reader 대상으로) 런타임 시에 메서드 가로채기 [2]파일 다운로드1
13923정성태5/5/20251490스크립트: 74. 파이썬 - C# - Python.NET의 RunSimpleScript, Exec, Eval 차이점파일 다운로드1
13922정성태5/3/20251723스크립트: 73. 파이썬 - Windows embeddable package 버전에서 tkinter 환경 구성
13921정성태5/3/20252209오류 유형: 952. 듀얼 채널 메모리 정렬을 지키지 않은 컴퓨터의 Windows 비정상 종료 현상(Blue Screen) [2]
[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...