Microsoft MVP성태의 닷넷 이야기
Windows: 116. 프로세스 풀 덤프 시간을 줄여 주는 Process Reflection [링크 복사], [링크+제목 복사],
조회: 22724
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 1개 있습니다.)

프로세스 풀 덤프 시간을 줄여 주는 Process Reflection

Windows Internals 책을 통해 Windows 7 이후 지원된다는 "Process Reflection"에 대해 처음 알게 되었습니다. ^^ (470 페이지에 자세하게 설명되어 있습니다.)

Windows Internals 제6판 Vol. 1: 마이크로소프트 윈도우 커널 공식 가이드 6판 
; http://www.yes24.com/24/goods/7877539

간단하게 설명해 보면!

프로세스 Full Dump 등을 남기려면 해당 EXE 프로세스의 동작을 중지시켜 사용 중인 메모리를 모두 디스크에 써야 하는데 이 소비 시간은 프로세스가 사용 중인 메모리의 크기에 영향을 받게 됩니다. 64비트 프로세스의 경우 대용량을 쓸 수 있다는 점을 감안하면 향후 미래를 생각해 봤을 때 분명히 문제가 아닐 수 없습니다.

마이크로소프트는 이에 대한 해법으로 "Process Reflection"을 구현했는데, 대상 프로세스의 현재 상태를 반영하는 임시 자식 프로세스를 생성하는 것입니다. 따라서, 덤프를 떠야 할 프로세스는 "미니 덤프를 생성할 시간"과 해당 프로세스에 대한 정지된 "클론"을 만드는 데 드는 시간 만큼만 중지하게 되어 실 서비스 운영 중에도 큰 부담없이 사용할 수 있다는 장점이 있습니다.

현재 이 정책을 반영한 프로그램이 sysinternals 도구에 포함된 procdump.exe입니다. procdump.exe로 full dump를 받는 방법은 다음과 같이 실행하게 되는데요.

C:\Windows\system32>procdump -ma reportingservicesservice.exe D:\temp\procdump.dmp

ProcDump v4.0 - Writes process dump files
Copyright (C) 2009-2011 Mark Russinovich
Sysinternals - www.sysinternals.com

Writing dump file D:\temp\procdump.dmp ...
Dump written.

대상 exe가 사용하는 모든 메모리를 디스크에 복사하기 때문에 이때 Process Explorer 등을 통해 살펴보면 reportingservicesservice.exe가 SUSPEND 상태로 머물러 있음을 확인할 수 있습니다.

하지만 윈도우 7부터 지원되는 '-r' 옵션을 이용해,

   -r      Dump using a clone. Concurrent limit is optional (default 1, max 5).
           CAUTION: a high concurrency value may impact system performance.
           - Windows 7   : Uses Reflection. OS doesn't support -e.
           - Windows 8.0 : Uses Reflection. OS doesn't support -e.
           - Windows 8.1+: Uses PSS. All trigger types are supported.

덤프를 남겨보면,

C:\Windows\system32>procdump -r -ma reportingservicesservice.exe D:\temp\procdump.dmp

ProcDump v4.0 - Writes process dump files
Copyright (C) 2009-2011 Mark Russinovich
Sysinternals - www.sysinternals.com

Writing dump file D:\temp\procdump-1.dmp ...
Dump written.

Writing dump file D:\temp\procdump-reflected.dmp ...
Dump written.

Finished writing reflected dump.
Open D:\temp\procdump.ini in the debugger to view the combined reflected dump.

보는 바와 같이 단계별로 2개의 .dmp 파일을 생성하고 그 파일들을 엮어주는 ini 파일이 다음의 내용으로 함께 생성됩니다.

[UserModeDump]
default=procdump-1.dmp
memory=procdump-reflected.dmp
module=procdump-1.dmp

여기서 procdump-1.dmp 파일은 minidump 유형의 덤프 파일로 이것을 남길 때만 대상 프로세스(본문에서는 reportingservicesservice.exe)가 SUSPEND 상태로 머물고 그 이후 메모리 덤프가 남겨지는 procdump-reflected.dmp 파일을 생성하는 동안에는 다시 정상적으로 서비스를 하게 됩니다.

실제로 windbg에서 procdump-1.dmp파일만 로드해서 .NET sos 확장 DLL을 로드하려고 하면 다음과 같이 경고 문구가 나옵니다.

0:000> .load C:\Windows\Microsoft.NET\Framework64\v2.0.50727\sos.dll
------------------------------------------------------------
sos.dll needs a full memory dump for complete functionality.
You can create one with .dump /ma <filename>
------------------------------------------------------------

당연하지만, 미니 덤프이기때문에 그에 포함되지 않은 영역의 메모리에 대한 내용은 보여지지 않는 경우가 많습니다.

0:041> !printexception
Exception object: 000000008067dec0
Exception type: System.ArgumentException
Message: The source '...' is not registered in log '...'. (It is registered in log '...'.) " The Source and Log properties must be matched, or you may set Log to the empty string, and it will automatically be matched to the Source property.
InnerException: <none>
StackTrace (generated):
    SP               IP               Function
    00000000152BCEC0 00007FFADD466353 System!System.Diagnostics.EventLog.VerifyAndCreateSource(System.String, System.String)+0x313
    00000000152BCF30 00007FFADD465BC1 System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32, Int16, Byte[])+0x191
    00000000152BCFD0 00007FFADDA75D3C System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32)+0x1c
    00000000152BD010 00007FFADDA75C42 TestLib!TestLib.Logger.LogEvent(System.Diagnostics.EventLogEntryType, TestLib.WindowEventLogId, System.String)+0x322

StackTraceString: <none>
HResult: 80070057

0:041> dd 00000000152BCEC0 
00000000`152bcec0  ???????? ???????? ???????? ????????
00000000`152bced0  ???????? ???????? ???????? ????????
00000000`152bcee0  ???????? ???????? ???????? ????????
00000000`152bcef0  ???????? ???????? ???????? ????????
00000000`152bcf00  ???????? ???????? ???????? ????????
00000000`152bcf10  ???????? ???????? ???????? ????????
00000000`152bcf20  ???????? ???????? ???????? ????????
00000000`152bcf30  ???????? ???????? ???????? ????????

반면, INI 파일을 windbg에서 열면 ini 내부에 지정된 덤프를 자동으로 모두 열고,

Loading Dump File [D:\temp\procdump.ini]

Loading User-mode Dump Configuration File [D:\temp\procdump.ini,D:,\temp\]
    default dump: [procdump-1.dmp]
    memory dump: [procdump-reflected.dmp]
    module list dump: [procdump-1.dmp]

Loading Dump File [D:\temp\procdump-1.dmp]
Comment: '
*** procdump  -r -ma reportingservicesservice.exe D:\temp\procdump.dmp
*** Timed dump'
User Mini Dump File: Only registers, stack and portions of memory are available


Loading Dump File [D:\temp\procdump-reflected.dmp]
User Mini Dump File with Full Memory: Only application data is available

Comment: '
*** procdump  -r -ma reportingservicesservice.exe D:\temp\procdump.dmp
*** Timed dump'

.NET SOS 확장 dll 로드 및 여타 메모리 조사도 정상적으로 잘 동작합니다.

0:000> .load C:\Windows\Microsoft.NET\Framework64\v2.0.50727\sos.dll

0:041> !printexception
Exception object: 000000008067dec0
Exception type: System.ArgumentException
Message: The source '...' is not registered in log '...'. (It is registered in log '...'.) " The Source and Log properties must be matched, or you may set Log to the empty string, and it will automatically be matched to the Source property.
InnerException: <none>
StackTrace (generated):
    SP               IP               Function
    00000000152BCEC0 00007FFADD466353 System!System.Diagnostics.EventLog.VerifyAndCreateSource(System.String, System.String)+0x313
    00000000152BCF30 00007FFADD465BC1 System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32, Int16, Byte[])+0x191
    00000000152BCFD0 00007FFADDA75D3C System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32)+0x1c
    00000000152BD010 00007FFADDA75C42 TestLib!TestLib.Logger.LogEvent(System.Diagnostics.EventLogEntryType, TestLib.WindowEventLogId, System.String)+0x322

StackTraceString: <none>
HResult: 80070057

0:041> dd 00000000152BCEC0 
00000000`152bcec0  1a5b61a0 00000000 007f0628 00000000
00000000`152bced0  fffffffe ffffffff 757fe648 00001871
00000000`152bcee0  00989680 00000000 000000c6 00000000
00000000`152bcef0  757fe648 00001871 152bcf48 00000000
00000000`152bcf00  80c90c30 00000000 dcc46a99 00007ffa
00000000`152bcf10  80c90b78 00000000 3c186d89 00007ffb
00000000`152bcf20  00000001 00000000 00000001 00000000"
00000000`152bcf30  00000000 00000000 3c18a092 00007ffb

이로써, 운영 서버에도 풀 덤프를 남겨달라고 부탁해도 크게 부담이 없게 되었습니다. (그래도, 부담스러워하는 고객이 있겠지만. ^^)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 7/17/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2017-08-04 04시23분
@taehwalee 님이 알려주신 정보... ^^

Windows 8, 2012 R2 부터는 OS에서 기능이 더 좋아져서 -r 옵션을 사용하면 덤프 파일이 1개만 생성된다고 하네요 (기존은 3개죠, 블로그에 쓰신것 처럼요)
; https://twitter.com/taehwalee/status/893310350925455360
정성태
2018-10-23 04시11분
zodiacon/AllTools - All reasonably stable tools
; https://github.com/zodiacon/AllTools

Windows Internals Book 7th edition Tools
; https://github.com/zodiacon/WindowsInternals
정성태
2024-08-13 03시32분
-r 옵션의 "- Windows 8.1+: Uses PSS. All trigger types are supported." 설명에 "Use PSS"가 나오는데요, 이것의 의미가 ProcessSnapShot입니다. 실제로 이때 사용하는 Win32 API로 "Kernel32.dll"에 다음의 API가 추가됐습니다.

PssCaptureSnapshot function (processsnapshot.h)
; https://learn.microsoft.com/en-us/windows/win32/api/processsnapshot/nf-processsnapshot-psscapturesnapshot

이 API를 Microsoft.Diagnostics.Runtime의 DataTarget.CreateSnapshotAndAttach가 사용하는데요, 그래서 해당 메서드를 Windows Server 2008 R2 이하에서 실행하면 다음과 같은 예외가 발생합니다.

Unhandled Exception: System.EntryPointNotFoundException: Unable to find an entry point named 'PssCaptureSnapshot' in native library 'kernel32.dll'.
   at Internal.Runtime.CompilerHelpers.InteropHelpers.FixupMethodCell(IntPtr, InteropHelpers.MethodFixupCell*) + 0x161
   at Internal.Runtime.CompilerHelpers.InteropHelpers.ResolvePInvokeSlow(InteropHelpers.MethodFixupCell*) + 0x3d
   at Microsoft.Diagnostics.Runtime.WindowsProcessDataReader.PssCaptureSnapshot(IntPtr, PSS_CAPTURE_FLAGS, Int32, IntPtr&) + 0x35
   at Microsoft.Diagnostics.Runtime.WindowsProcessDataReader..ctor(Int32, WindowsProcessDataReaderMode) + 0x85
   at Microsoft.Diagnostics.Runtime.DataTarget.CreateSnapshotAndAttach(Int32, TokenCredential) + 0x11a
정성태

... [31]  32  33  34  35  36  37  38  39  40  41  42  43  44  45  ...
NoWriterDateCnt.TitleFile(s)
13162정성태11/15/202215733.NET Framework: 2069. .NET 7 - AOT(ahead-of-time) 컴파일 [1]
13161정성태11/14/202214408.NET Framework: 2068. C# - PublishSingleFile로 배포한 이미지의 역어셈블 가능 여부 (난독화 필요성) [4]
13160정성태11/11/202214375.NET Framework: 2067. C# - PublishSingleFile 적용 시 native/managed 모듈 통합 옵션
13159정성태11/10/202217676.NET Framework: 2066. C# - PublishSingleFile과 관련된 옵션 [3]
13158정성태11/9/202213372오류 유형: 826. Workload definition 'wasm-tools' in manifest 'microsoft.net.workload.mono.toolchain' [...] conflicts with manifest 'microsoft.net.workload.mono.toolchain.net7'
13157정성태11/8/202214393.NET Framework: 2065. C# - Mutex의 비동기 버전파일 다운로드1
13156정성태11/7/202215988.NET Framework: 2064. C# - Mutex와 Semaphore/SemaphoreSlim 차이점파일 다운로드1
13155정성태11/4/202214237디버깅 기술: 183. TCP 동시 접속 (연결이 아닌) 시도를 1개로 제한한 서버
13154정성태11/3/202214722.NET Framework: 2063. .NET 5+부터 지원되는 GC.GetGCMemoryInfo파일 다운로드1
13153정성태11/2/202216035.NET Framework: 2062. C# - 코드로 재현하는 소켓 상태(SYN_SENT, SYN_RECV)
13152정성태11/1/202214949.NET Framework: 2061. ASP.NET Core - DI로 추가한 클래스의 초기화 방법 [1]
13151정성태10/31/202214397C/C++: 161. Windows 11 환경에서 raw socket 테스트하는 방법파일 다운로드1
13150정성태10/30/202213282C/C++: 160. Visual Studio 2022로 빌드한 C++ 프로그램을 위한 다른 PC에서 실행하는 방법
13149정성태10/27/202213853오류 유형: 825. C# - CLR ETW 이벤트 수신이 GCHeapStats_V1/V2에 대해 안 되는 문제파일 다운로드1
13148정성태10/26/202213807오류 유형: 824. msbuild 에러 - error NETSDK1005: Assets file '...\project.assets.json' doesn't have a target for 'net5.0'. Ensure that restore has run and that you have included 'net5.0' in the TargetFramew
13147정성태10/25/202213068오류 유형: 823. Visual Studio 2022 - Unable to attach to CoreCLR. The debugger's protocol is incompatible with the debuggee.
13146정성태10/24/202214367.NET Framework: 2060. C# - Java의 Xmx와 유사한 힙 메모리 최댓값 제어 옵션 HeapHardLimit
13145정성태10/21/202214998오류 유형: 822. db2 - Password validation for user db2inst1 failed with rc = -2146500508
13144정성태10/20/202214693.NET Framework: 2059. ClrMD를 이용해 윈도우 환경의 메모리 덤프로부터 닷넷 모듈을 추출하는 방법파일 다운로드1
13143정성태10/19/202215633오류 유형: 821. windbg/sos - Error code - 0x000021BE
13142정성태10/18/202220431도서: 시작하세요! C# 12 프로그래밍
13141정성태10/17/202216160.NET Framework: 2058. [in,out] 배열을 C#에서 C/C++로 넘기는 방법 - 세 번째 이야기파일 다운로드1
13140정성태10/11/202215565C/C++: 159. C/C++ - 리눅스 환경에서 u16string 문자열을 출력하는 방법 [2]
13139정성태10/9/202213659.NET Framework: 2057. 리눅스 환경의 .NET Core 3/5+ 메모리 덤프로부터 모든 닷넷 모듈을 추출하는 방법파일 다운로드1
13138정성태10/8/202216263.NET Framework: 2056. C# - await 비동기 호출을 기대한 메서드가 동기로 호출되었을 때의 부작용 [1]
13137정성태10/8/202214186.NET Framework: 2055. 리눅스 환경의 .NET Core 3/5+ 메모리 덤프로부터 닷넷 모듈을 추출하는 방법
... [31]  32  33  34  35  36  37  38  39  40  41  42  43  44  45  ...