Microsoft MVP성태의 닷넷 이야기
Windows: 116. 프로세스 풀 덤프 시간을 줄여 주는 Process Reflection [링크 복사], [링크+제목 복사],
조회: 23881
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 1개 있습니다.)

프로세스 풀 덤프 시간을 줄여 주는 Process Reflection

Windows Internals 책을 통해 Windows 7 이후 지원된다는 "Process Reflection"에 대해 처음 알게 되었습니다. ^^ (470 페이지에 자세하게 설명되어 있습니다.)

Windows Internals 제6판 Vol. 1: 마이크로소프트 윈도우 커널 공식 가이드 6판 
; http://www.yes24.com/24/goods/7877539

간단하게 설명해 보면!

프로세스 Full Dump 등을 남기려면 해당 EXE 프로세스의 동작을 중지시켜 사용 중인 메모리를 모두 디스크에 써야 하는데 이 소비 시간은 프로세스가 사용 중인 메모리의 크기에 영향을 받게 됩니다. 64비트 프로세스의 경우 대용량을 쓸 수 있다는 점을 감안하면 향후 미래를 생각해 봤을 때 분명히 문제가 아닐 수 없습니다.

마이크로소프트는 이에 대한 해법으로 "Process Reflection"을 구현했는데, 대상 프로세스의 현재 상태를 반영하는 임시 자식 프로세스를 생성하는 것입니다. 따라서, 덤프를 떠야 할 프로세스는 "미니 덤프를 생성할 시간"과 해당 프로세스에 대한 정지된 "클론"을 만드는 데 드는 시간 만큼만 중지하게 되어 실 서비스 운영 중에도 큰 부담없이 사용할 수 있다는 장점이 있습니다.

현재 이 정책을 반영한 프로그램이 sysinternals 도구에 포함된 procdump.exe입니다. procdump.exe로 full dump를 받는 방법은 다음과 같이 실행하게 되는데요.

C:\Windows\system32>procdump -ma reportingservicesservice.exe D:\temp\procdump.dmp

ProcDump v4.0 - Writes process dump files
Copyright (C) 2009-2011 Mark Russinovich
Sysinternals - www.sysinternals.com

Writing dump file D:\temp\procdump.dmp ...
Dump written.

대상 exe가 사용하는 모든 메모리를 디스크에 복사하기 때문에 이때 Process Explorer 등을 통해 살펴보면 reportingservicesservice.exe가 SUSPEND 상태로 머물러 있음을 확인할 수 있습니다.

하지만 윈도우 7부터 지원되는 '-r' 옵션을 이용해,

   -r      Dump using a clone. Concurrent limit is optional (default 1, max 5).
           CAUTION: a high concurrency value may impact system performance.
           - Windows 7   : Uses Reflection. OS doesn't support -e.
           - Windows 8.0 : Uses Reflection. OS doesn't support -e.
           - Windows 8.1+: Uses PSS. All trigger types are supported.

덤프를 남겨보면,

C:\Windows\system32>procdump -r -ma reportingservicesservice.exe D:\temp\procdump.dmp

ProcDump v4.0 - Writes process dump files
Copyright (C) 2009-2011 Mark Russinovich
Sysinternals - www.sysinternals.com

Writing dump file D:\temp\procdump-1.dmp ...
Dump written.

Writing dump file D:\temp\procdump-reflected.dmp ...
Dump written.

Finished writing reflected dump.
Open D:\temp\procdump.ini in the debugger to view the combined reflected dump.

보는 바와 같이 단계별로 2개의 .dmp 파일을 생성하고 그 파일들을 엮어주는 ini 파일이 다음의 내용으로 함께 생성됩니다.

[UserModeDump]
default=procdump-1.dmp
memory=procdump-reflected.dmp
module=procdump-1.dmp

여기서 procdump-1.dmp 파일은 minidump 유형의 덤프 파일로 이것을 남길 때만 대상 프로세스(본문에서는 reportingservicesservice.exe)가 SUSPEND 상태로 머물고 그 이후 메모리 덤프가 남겨지는 procdump-reflected.dmp 파일을 생성하는 동안에는 다시 정상적으로 서비스를 하게 됩니다.

실제로 windbg에서 procdump-1.dmp파일만 로드해서 .NET sos 확장 DLL을 로드하려고 하면 다음과 같이 경고 문구가 나옵니다.

0:000> .load C:\Windows\Microsoft.NET\Framework64\v2.0.50727\sos.dll
------------------------------------------------------------
sos.dll needs a full memory dump for complete functionality.
You can create one with .dump /ma <filename>
------------------------------------------------------------

당연하지만, 미니 덤프이기때문에 그에 포함되지 않은 영역의 메모리에 대한 내용은 보여지지 않는 경우가 많습니다.

0:041> !printexception
Exception object: 000000008067dec0
Exception type: System.ArgumentException
Message: The source '...' is not registered in log '...'. (It is registered in log '...'.) " The Source and Log properties must be matched, or you may set Log to the empty string, and it will automatically be matched to the Source property.
InnerException: <none>
StackTrace (generated):
    SP               IP               Function
    00000000152BCEC0 00007FFADD466353 System!System.Diagnostics.EventLog.VerifyAndCreateSource(System.String, System.String)+0x313
    00000000152BCF30 00007FFADD465BC1 System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32, Int16, Byte[])+0x191
    00000000152BCFD0 00007FFADDA75D3C System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32)+0x1c
    00000000152BD010 00007FFADDA75C42 TestLib!TestLib.Logger.LogEvent(System.Diagnostics.EventLogEntryType, TestLib.WindowEventLogId, System.String)+0x322

StackTraceString: <none>
HResult: 80070057

0:041> dd 00000000152BCEC0 
00000000`152bcec0  ???????? ???????? ???????? ????????
00000000`152bced0  ???????? ???????? ???????? ????????
00000000`152bcee0  ???????? ???????? ???????? ????????
00000000`152bcef0  ???????? ???????? ???????? ????????
00000000`152bcf00  ???????? ???????? ???????? ????????
00000000`152bcf10  ???????? ???????? ???????? ????????
00000000`152bcf20  ???????? ???????? ???????? ????????
00000000`152bcf30  ???????? ???????? ???????? ????????

반면, INI 파일을 windbg에서 열면 ini 내부에 지정된 덤프를 자동으로 모두 열고,

Loading Dump File [D:\temp\procdump.ini]

Loading User-mode Dump Configuration File [D:\temp\procdump.ini,D:,\temp\]
    default dump: [procdump-1.dmp]
    memory dump: [procdump-reflected.dmp]
    module list dump: [procdump-1.dmp]

Loading Dump File [D:\temp\procdump-1.dmp]
Comment: '
*** procdump  -r -ma reportingservicesservice.exe D:\temp\procdump.dmp
*** Timed dump'
User Mini Dump File: Only registers, stack and portions of memory are available


Loading Dump File [D:\temp\procdump-reflected.dmp]
User Mini Dump File with Full Memory: Only application data is available

Comment: '
*** procdump  -r -ma reportingservicesservice.exe D:\temp\procdump.dmp
*** Timed dump'

.NET SOS 확장 dll 로드 및 여타 메모리 조사도 정상적으로 잘 동작합니다.

0:000> .load C:\Windows\Microsoft.NET\Framework64\v2.0.50727\sos.dll

0:041> !printexception
Exception object: 000000008067dec0
Exception type: System.ArgumentException
Message: The source '...' is not registered in log '...'. (It is registered in log '...'.) " The Source and Log properties must be matched, or you may set Log to the empty string, and it will automatically be matched to the Source property.
InnerException: <none>
StackTrace (generated):
    SP               IP               Function
    00000000152BCEC0 00007FFADD466353 System!System.Diagnostics.EventLog.VerifyAndCreateSource(System.String, System.String)+0x313
    00000000152BCF30 00007FFADD465BC1 System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32, Int16, Byte[])+0x191
    00000000152BCFD0 00007FFADDA75D3C System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32)+0x1c
    00000000152BD010 00007FFADDA75C42 TestLib!TestLib.Logger.LogEvent(System.Diagnostics.EventLogEntryType, TestLib.WindowEventLogId, System.String)+0x322

StackTraceString: <none>
HResult: 80070057

0:041> dd 00000000152BCEC0 
00000000`152bcec0  1a5b61a0 00000000 007f0628 00000000
00000000`152bced0  fffffffe ffffffff 757fe648 00001871
00000000`152bcee0  00989680 00000000 000000c6 00000000
00000000`152bcef0  757fe648 00001871 152bcf48 00000000
00000000`152bcf00  80c90c30 00000000 dcc46a99 00007ffa
00000000`152bcf10  80c90b78 00000000 3c186d89 00007ffb
00000000`152bcf20  00000001 00000000 00000001 00000000"
00000000`152bcf30  00000000 00000000 3c18a092 00007ffb

이로써, 운영 서버에도 풀 덤프를 남겨달라고 부탁해도 크게 부담이 없게 되었습니다. (그래도, 부담스러워하는 고객이 있겠지만. ^^)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 7/17/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2017-08-04 04시23분
@taehwalee 님이 알려주신 정보... ^^

Windows 8, 2012 R2 부터는 OS에서 기능이 더 좋아져서 -r 옵션을 사용하면 덤프 파일이 1개만 생성된다고 하네요 (기존은 3개죠, 블로그에 쓰신것 처럼요)
; https://twitter.com/taehwalee/status/893310350925455360
정성태
2018-10-23 04시11분
zodiacon/AllTools - All reasonably stable tools
; https://github.com/zodiacon/AllTools

Windows Internals Book 7th edition Tools
; https://github.com/zodiacon/WindowsInternals
정성태
2024-08-13 03시32분
-r 옵션의 "- Windows 8.1+: Uses PSS. All trigger types are supported." 설명에 "Use PSS"가 나오는데요, 이것의 의미가 ProcessSnapShot입니다. 실제로 이때 사용하는 Win32 API로 "Kernel32.dll"에 다음의 API가 추가됐습니다.

PssCaptureSnapshot function (processsnapshot.h)
; https://learn.microsoft.com/en-us/windows/win32/api/processsnapshot/nf-processsnapshot-psscapturesnapshot

이 API를 Microsoft.Diagnostics.Runtime의 DataTarget.CreateSnapshotAndAttach가 사용하는데요, 그래서 해당 메서드를 Windows Server 2008 R2 이하에서 실행하면 다음과 같은 예외가 발생합니다.

Unhandled Exception: System.EntryPointNotFoundException: Unable to find an entry point named 'PssCaptureSnapshot' in native library 'kernel32.dll'.
   at Internal.Runtime.CompilerHelpers.InteropHelpers.FixupMethodCell(IntPtr, InteropHelpers.MethodFixupCell*) + 0x161
   at Internal.Runtime.CompilerHelpers.InteropHelpers.ResolvePInvokeSlow(InteropHelpers.MethodFixupCell*) + 0x3d
   at Microsoft.Diagnostics.Runtime.WindowsProcessDataReader.PssCaptureSnapshot(IntPtr, PSS_CAPTURE_FLAGS, Int32, IntPtr&) + 0x35
   at Microsoft.Diagnostics.Runtime.WindowsProcessDataReader..ctor(Int32, WindowsProcessDataReaderMode) + 0x85
   at Microsoft.Diagnostics.Runtime.DataTarget.CreateSnapshotAndAttach(Int32, TokenCredential) + 0x11a
정성태

[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13945정성태6/7/2025349오류 유형: 960. 파이썬 + conda - mysqlclient 사용 시 "NameError: name '_mysql' is not defined" 에러
13944정성태6/7/2025349오류 유형: 959. The trust relationship between this workstation and the primary domain failed. - 네 번째 이야기
13943정성태6/6/2025488개발 환경 구성: 748. Windows + Foundry Local - 로컬에서 AI 모델 활용
13942정성태6/5/2025684오류 유형: 958. winget 설치 시 "0x80d02002 : unknown error"
13941정성태6/2/2025916닷넷: 2334. C# - cpuid 명령어를 이용한 CPU 제조사 문자열 가져오기파일 다운로드1
13940정성태6/1/20251331C/C++: 188. C++의 32비트 + Release 어셈블리 코드를 .NET으로 포팅할 때 주의할 점파일 다운로드1
13939정성태5/29/20251610오류 유형: 957. NVIDIA Triton Inference Server - version `GLIBCXX_3.4.32' not found (required by /opt/tritonserver/backends/python/triton_python_backend_stub)
13938정성태5/29/20251366개발 환경 구성: 747. 파이썬 - WSL/docker에 구성한 Triton 예제 개발 환경
13937정성태5/24/20251346개발 환경 구성: 746. Windows + WSL2 환경에서 (tensorflow 등의) NVIDIA GPU 인식
13936정성태5/23/20251175개발 환경 구성: 745. Linux / WSL 환경에 Miniconda 설치하기
13935정성태5/20/20251193파이썬 - pip 사용 시 "ImportError: cannot import name 'html5lib' from 'pip._vendor'" 오류
13934정성태5/20/20251703스크립트: 77. 파이썬 - 'urllib.request' 모듈의 명시적/암시적 로딩 차이
13933정성태5/19/20251272오류 유형: 956. Visual Studio 2022가 17.12 버전부터 업데이트 되지 않는다면?
13932정성태5/18/20251477스크립트: 76. 파이썬 - Version 문자열 다루기(semver 패키지)
13931정성태5/17/20251766스크립트: 75. 파이썬 - Cython 기본 예제 및 컴파일
13930정성태5/17/20251445개발 환경 구성: 744. 파이썬 - Windows embeddable package 환경에서 외부 패키지 사용하는 방법(ex: UFO² 환경 구성)
13929정성태5/16/20251475오류 유형: 955. 파이썬 - "Windows embeddable package" REPL 환경에서 "NameError: name 'exit' is not defined"
13928정성태5/15/20251525오류 유형: 954. UFO² - "'Invalid URL (POST /v1/chat/completions/chat/completions)'"
13927정성태5/15/20251521오류 유형: 953. OpenAI - The API request of HOST_AGENT failed: OpenAI API request exceeded rate limit: Error code: 429
13926정성태5/14/20251900개발 환경 구성: 743. LLM과 윈도우의 만남 - Desktop AgentOS UFO² 기본 환경 구성
13925정성태5/12/20252000닷넷: 2333. C# - (Console 유형의 프로젝트에서) Clipboard 연동파일 다운로드1
13924정성태5/8/20251736닷넷: 2332. C# - (JetBrains Omea Reader 대상으로) 런타임 시에 메서드 가로채기 [2]파일 다운로드1
13923정성태5/5/20251490스크립트: 74. 파이썬 - C# - Python.NET의 RunSimpleScript, Exec, Eval 차이점파일 다운로드1
13922정성태5/3/20251727스크립트: 73. 파이썬 - Windows embeddable package 버전에서 tkinter 환경 구성
13921정성태5/3/20252225오류 유형: 952. 듀얼 채널 메모리 정렬을 지키지 않은 컴퓨터의 Windows 비정상 종료 현상(Blue Screen) [2]
[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...