Microsoft MVP성태의 닷넷 이야기
닷넷: 2211. C# - NonGC(FOH) 영역에 .NET 개체를 생성 [링크 복사], [링크+제목 복사],
조회: 2557
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

(시리즈 글이 3개 있습니다.)
.NET Framework: 1023. C# - GC 힙이 아닌 Native 힙에 인스턴스 생성 - 0SuperComicLib.LowLevel 라이브러리 소개
; https://www.sysnet.pe.kr/2/0/12538

닷넷: 2210. C# - Native 메모리에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13537

닷넷: 2211. C# - NonGC(FOH) 영역에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13538




C# - NonGC(FOH) 영역에 .NET 개체를 생성

지난 글에서,

C# - Native 메모리에 .NET 개체를 생성
; https://www.sysnet.pe.kr/2/0/13537

.NET 개체를 임의로 네이티브 메모리에 생성하는 방법을 알아봤는데요, 재미있는 건 마이크로소프트도 이미 저 방식을 CLR 내부에서 사용하고 있었다는 점입니다. 그런 의미에서 FOH를 다시 한번 읽어보시면,

.NET 8 - NonGC Heap / FOH (Frozen Object Heap)
; https://www.sysnet.pe.kr/2/0/13536

이번엔 새롭게 해석이 될 것입니다. 그리고 저 2개의 글을 이해하셨다면, 이제 아래의 글이 더욱 재미있을 것입니다. ^^

Exploring .NET frozen segments
; https://minidump.net/exploring-frozen-segments/

현재 FOH는 마이크로소프트 내부에서만 사용하고 있을 텐데, 위의 글에서는 숨겨져 있는 메서드를 사용해 우리도 FOH를 등록/해제할 수 있는 방법을 소개하고 있습니다.

핵심은 공개되지 않은 메서드 2개인데요, 따라서 현재는 Reflection으로 이렇게 감싸야 합니다.

using System.Reflection;

namespace ConsoleApp1;

internal class GCExtension
{
    internal static IntPtr RegisterFrozenSegment(IntPtr sectionAddress, nint sectionSize)
    {
        return (IntPtr)typeof(GC).GetMethod("_RegisterFrozenSegment", BindingFlags.NonPublic | BindingFlags.Static)!
            .Invoke(null, [sectionAddress, sectionSize])!;
    }

    internal static void UnregisterFrozenSegment(IntPtr segment)
    {
        typeof(GC).GetMethod("_UnregisterFrozenSegment", BindingFlags.NonPublic | BindingFlags.Static)!
            .Invoke(null, [segment]);
    }
}

그럼 ^^ 위의 메서드를 이용해서 지난 글에서처럼 닷넷 개체를 FOH에 등록해 볼까요? 이번엔 MyObject 사용자 개체 대신 문자열을 생성해 볼 텐데요, 코드는 다음과 같이 정리할 수 있습니다.

// https://minidump.net/exploring-frozen-segments/
public class StringExtension
{
    public static int GetAllocatedStringSize(ReadOnlySpan<char> data)
    {
        int headerSize = IntPtr.Size + IntPtr.Size + sizeof(int); // object header + method-table ptr + len(string)
        return headerSize + ((data.Length + 1) * sizeof(char));
    }

    public static unsafe string AllocateString(void* address, ReadOnlySpan<char> data)
    {
        var ptr = (byte*)address;

        // Write the header
        *(nint*)ptr = 0;
        ptr += sizeof(nint);

        // Retrieve the method-table pointer
        var mt = typeof(string).TypeHandle.Value;

        // Write it
        *(nint*)ptr = mt;
        ptr += sizeof(nint);

        *(int*)ptr = data.Length;
        ptr += sizeof(int);

        var destination = new Span<char>(ptr, data.Length + 1);

        data.CopyTo(destination);
        destination[^1] = '\0';

        var strRef = (nint)address + sizeof(nint);
        return Unsafe.As<nint, string>(ref strRef);
    }
}

이를 이용해 네이티브 메모리를 할당한 후 문자열 복사를 다음과 같이 할 수 있습니다.

string text = new string('c', short.MaxValue * 2);

int objectSize = StringExtension.GetAllocatedStringSize(text);

/* NativeMemory.AlignedAlloc
The current design of CoreCLR's FrozenObjectHeapManager has certain design limitations such as:
    * Large objects are not supported.
    * Objects requiring unusual data alignment are not supported.
*/
var allocated = NativeMemory.AlignedAlloc((nuint)objectSize, (nuint)IntPtr.Size);
NativeMemory.Clear(allocated, (nuint)objectSize);

// textOnNative == 네이티브 메모리에 보관한 문자열 개체
string textOnNative = StringExtension.AllocateString(allocated, text);

마지막으로, 저렇게 구성한 네이티브 메모리를 FOH에 등록만 해주면 됩니다.

var segment = GCExtension.RegisterFrozenSegment((IntPtr)allocated, objectSize);

fixed (char* ptr = textOnNative)
{
    Console.WriteLine($"address of text: {(nint)ptr:x}");
}

Console.WriteLine($"address of AlignedAlloc: {(nint)allocated:x}");
Console.WriteLine($"address of FOH: {segment:x}");

Console.WriteLine("Press any key to exit...");
Console.ReadLine();

GCExtension.UnregisterFrozenSegment(segment);

실행 시 중간에 넣어둔 출력 결과가 이렇게 나오고,

address of text: 1e48045f18c
address of AlignedAlloc: 1e48045f178
address of FOH: 1e4e3b2d9d0

이와 함께 Console.ReadLine으로 걸렸을 때 windbg로 연결하면 이런 결과가 나옵니다.

0:014> !eeheap
...[생략]...
========================================
Number of GC Heaps: 1
----------------------------------------
Small object heap
         segment            begin        allocated        committed allocated size   committed size  
generation 0:
    0224f990f320     01e4e8400028     01e4e841f0e0     01e4e8421000 0x1f0b8 (127160) 0x21000 (135168)
generation 1:
    0224f990f270     01e4e8000028     01e4e8000028     01e4e8001000                  0x1000 (4096)   
generation 2:
    0224f990f1c0     01e4e7c00028     01e4e7c00028     01e4e7c01000                  0x1000 (4096)   
Frozen object heap
         segment            begin        allocated        committed allocated size   committed size  
    01e4e3aa7620     01e480000008     01e480003d30     01e480010000 0x3d28 (15656)   0x10000 (65536) 
    01e4e3b2d9d0     01e48045f180     01e48047f18a     01e48047f18a 0x2000a (131082) 0x20012 (131090)
Large object heap
         segment            begin        allocated        committed allocated size   committed size  
    0224f990f3d0     01e4e8800028     01e4e8820060     01e4e8821000 0x20038 (131128) 0x21000 (135168)
Pinned object heap
         segment            begin        allocated        committed allocated size   committed size  
    0224f990ec40     01e4e5c00028     01e4e5c07ff0     01e4e5c11000 0x7fc8 (32712)   0x11000 (69632) 
------------------------------
GC Allocated Heap Size:    Size: 0x6adea (437738) bytes.
GC Committed Heap Size:    Size: 0x85012 (544786) bytes.

Total bytes consumed by CLR: 0x39c012 (3784722)

우리가 출력한 "address of FOH"의 값이 segment 칼럼 값에 해당하고, "address of AlignedAlloc"에 +8을 한 값이 "begin" 칼럼으로 사용되고 있습니다. 그러니까, Object Header를 넘어서 Method Table을 가리키는 첫 번째 개체의 위치를 "begin"으로 나타내고 있는 것입니다.

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




FOH의 특성상 불멸 객체만 담아둔다고 했는데요, 따라서 관리 개체의 메모리 구조만 맞춰서 저렇게 만들어 두면 GC의 영향도 받지 않으니 속도 향상에 나름 기여할 수 있습니다. 게다가 이를 기반으로 FOH 영역임을 런타임에서 인식할 수 있다면 RyuJit의 입장에서도 그 영역에 담긴 개체들은 불멸할 것임을 보증 받을 수 있으므로 코드 생성에 유리했을 것으로 추측이 됩니다.

그런데, 그런 의도와는 다르게 _RegisterFrozenSegment와 함께 _UnregisterFrozenSegment까지 만들어 두었다는 것이 재미있습니다. 물론 Unregister를 해도 영향은 없을 것입니다. 중요한 것은 네이티브 메모리를 해제만 하지 않으면 되기 때문인데, 어쨌든 닷넷 런타임 측에서도 아마 프로세스 종료 시점에나 Unregister/Free를 같이 하는 식이지 않을까 싶습니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 1/25/2024]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




1  2  3  4  5  6  [7]  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13468정성태12/1/20232425닷넷: 2176. C# - .NET Core/5+부터 달라진 RCW(Runtime Callable Wrapper) 대응 방식파일 다운로드1
13467정성태11/30/20232601오류 유형: 882. C# - Unhandled exception. System.Runtime.InteropServices.COMException (0x800080A5)파일 다운로드1
13466정성태11/29/20232748닷넷: 2175. C# - DllImport 메서드의 AOT 지원을 위한 LibraryImport 옵션
13465정성태11/28/20232519개발 환경 구성: 689. MSBuild - CopyToOutputDirectory가 "dotnet publish" 시에는 적용되지 않는 문제파일 다운로드1
13464정성태11/28/20232604닷넷: 2174. C# - .NET 7부터 UnmanagedCallersOnly 함수 export 기능을 AOT 빌드에 통합파일 다운로드1
13463정성태11/27/20232496오류 유형: 881. Visual Studio - NU1605: Warning As Error: Detected package downgrade
13462정성태11/27/20232484오류 유형: 880. Visual Studio - error CS0246: The type or namespace name '...' could not be found
13461정성태11/26/20232561닷넷: 2173. .NET Core 3/5+ 기반의 COM Server를 registry 등록 없이 사용하는 방법파일 다운로드1
13460정성태11/26/20232541닷넷: 2172. .NET 6+ 기반의 COM Server 내에 Type Library를 내장하는 방법파일 다운로드1
13459정성태11/26/20232533닷넷: 2171. .NET Core 3/5+ 기반의 COM Server를 기존의 regasm처럼 등록하는 방법파일 다운로드1
13458정성태11/26/20232550닷넷: 2170. .NET Core/5+ 기반의 COM Server를 tlb 파일을 생성하는 방법(tlbexp)
13457정성태11/25/20232479VS.NET IDE: 187. Visual Studio - 16.9 버전부터 추가된 "Display inline type hints" 옵션
13456정성태11/25/20232811닷넷: 2169. C# - OpenAI를 사용해 PDF 데이터를 대상으로 OpenAI 챗봇 작성 [1]파일 다운로드1
13455정성태11/25/20232705닷넷: 2168. C# - Azure.AI.OpenAI 패키지로 OpenAI 사용파일 다운로드1
13454정성태11/23/20233017닷넷: 2167. C# - Qdrant Vector DB를 이용한 Embedding 벡터 값 보관/조회 (Azure OpenAI) [1]파일 다운로드1
13453정성태11/23/20232421오류 유형: 879. docker desktop 설치 시 "Invalid JSON string. (Exception from HRESULT: 0x83750007)"
13452정성태11/22/20232517닷넷: 2166. C# - Azure OpenAI API를 이용해 사용자가 제공하는 정보를 대상으로 검색하는 방법파일 다운로드1
13451정성태11/21/20232648닷넷: 2165. C# - Azure OpenAI API를 이용해 ChatGPT처럼 동작하는 콘솔 응용 프로그램 제작파일 다운로드1
13450정성태11/21/20232461닷넷: 2164. C# - Octokit을 이용한 GitHub Issue 검색파일 다운로드1
13449정성태11/21/20232612개발 환경 구성: 688. Azure OpenAI 서비스 신청 방법
13448정성태11/20/20232953닷넷: 2163. .NET 8 - Dynamic PGO를 결합한 성능 향상파일 다운로드1
13447정성태11/16/20232856닷넷: 2162. ASP.NET Core 웹 사이트의 SSL 설정을 코드로 하는 방법
13446정성태11/16/20232779닷넷: 2161. .NET Conf 2023 - Day 1 Blazor 개요 정리
13445정성태11/15/20233097Linux: 62. 리눅스/WSL에서 CA 인증서를 저장하는 방법
13444정성태11/15/20232813닷넷: 2160. C# 12 - Experimental 특성 지원
13443정성태11/14/20232836개발 환경 구성: 687. OpenSSL로 생성한 사용자 인증서를 ASP.NET Core 웹 사이트에 적용하는 방법
1  2  3  4  5  6  [7]  8  9  10  11  12  13  14  15  ...