Microsoft MVP성태의 닷넷 이야기
Windows: 116. 프로세스 풀 덤프 시간을 줄여 주는 Process Reflection [링크 복사], [링크+제목 복사],
조회: 15536
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 1개 있습니다.)

프로세스 풀 덤프 시간을 줄여 주는 Process Reflection

Windows Internals 책을 통해 Windows 7 이후 지원된다는 "Process Reflection"에 대해 처음 알게 되었습니다. ^^ (470 페이지에 자세하게 설명되어 있습니다.)

Windows Internals 제6판 Vol. 1: 마이크로소프트 윈도우 커널 공식 가이드 6판 
; http://www.yes24.com/24/goods/7877539

간단하게 설명해 보면!

프로세스 Full Dump 등을 남기려면 해당 EXE 프로세스의 동작을 중지시켜 사용 중인 메모리를 모두 디스크에 써야 하는데 이 소비 시간은 프로세스가 사용 중인 메모리의 크기에 영향을 받게 됩니다. 64비트 프로세스의 경우 대용량을 쓸 수 있다는 점을 감안하면 향후 미래를 생각해 봤을 때 분명히 문제가 아닐 수 없습니다.

마이크로소프트는 이에 대한 해법으로 "Process Reflection"을 구현했는데, 대상 프로세스의 현재 상태를 반영하는 임시 자식 프로세스를 생성하는 것입니다. 따라서, 덤프를 떠야 할 프로세스는 "미니 덤프를 생성할 시간"과 해당 프로세스에 대한 정지된 "클론"을 만드는 데 드는 시간 만큼만 중지하게 되어 실 서비스 운영 중에도 큰 부담없이 사용할 수 있다는 장점이 있습니다.

현재 이 정책을 반영한 프로그램이 sysinternals 도구에 포함된 procdump.exe입니다. procdump.exe로 full dump를 받는 방법은 다음과 같이 실행하게 되는데요.

C:\Windows\system32>procdump -ma reportingservicesservice.exe D:\temp\procdump.dmp

ProcDump v4.0 - Writes process dump files
Copyright (C) 2009-2011 Mark Russinovich
Sysinternals - www.sysinternals.com

Writing dump file D:\temp\procdump.dmp ...
Dump written.

대상 exe가 사용하는 모든 메모리를 디스크에 복사하기 때문에 이때 Process Explorer 등을 통해 살펴보면 reportingservicesservice.exe가 SUSPEND 상태로 머물러 있음을 확인할 수 있습니다.

하지만 윈도우 7부터 지원되는 '-r' 옵션을 이용해,

   -r      Dump using a clone. Concurrent limit is optional (default 1, max 5).
           CAUTION: a high concurrency value may impact system performance.
           - Windows 7   : Uses Reflection. OS doesn't support -e.
           - Windows 8.0 : Uses Reflection. OS doesn't support -e.
           - Windows 8.1+: Uses PSS. All trigger types are supported.

덤프를 남겨보면,

C:\Windows\system32>procdump -r -ma reportingservicesservice.exe D:\temp\procdump.dmp

ProcDump v4.0 - Writes process dump files
Copyright (C) 2009-2011 Mark Russinovich
Sysinternals - www.sysinternals.com

Writing dump file D:\temp\procdump-1.dmp ...
Dump written.

Writing dump file D:\temp\procdump-reflected.dmp ...
Dump written.

Finished writing reflected dump.
Open D:\temp\procdump.ini in the debugger to view the combined reflected dump.

보는 바와 같이 단계별로 2개의 .dmp 파일을 생성하고 그 파일들을 엮어주는 ini 파일이 다음의 내용으로 함께 생성됩니다.

[UserModeDump]
default=procdump-1.dmp
memory=procdump-reflected.dmp
module=procdump-1.dmp

여기서 procdump-1.dmp 파일은 minidump 유형의 덤프 파일로 이것을 남길 때만 대상 프로세스(본문에서는 reportingservicesservice.exe)가 SUSPEND 상태로 머물고 그 이후 메모리 덤프가 남겨지는 procdump-reflected.dmp 파일을 생성하는 동안에는 다시 정상적으로 서비스를 하게 됩니다.

실제로 windbg에서 procdump-1.dmp파일만 로드해서 .NET sos 확장 DLL을 로드하려고 하면 다음과 같이 경고 문구가 나옵니다.

0:000> .load C:\Windows\Microsoft.NET\Framework64\v2.0.50727\sos.dll
------------------------------------------------------------
sos.dll needs a full memory dump for complete functionality.
You can create one with .dump /ma <filename>
------------------------------------------------------------

당연하지만, 미니 덤프이기때문에 그에 포함되지 않은 영역의 메모리에 대한 내용은 보여지지 않는 경우가 많습니다.

0:041> !printexception
Exception object: 000000008067dec0
Exception type: System.ArgumentException
Message: The source '...' is not registered in log '...'. (It is registered in log '...'.) " The Source and Log properties must be matched, or you may set Log to the empty string, and it will automatically be matched to the Source property.
InnerException: <none>
StackTrace (generated):
    SP               IP               Function
    00000000152BCEC0 00007FFADD466353 System!System.Diagnostics.EventLog.VerifyAndCreateSource(System.String, System.String)+0x313
    00000000152BCF30 00007FFADD465BC1 System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32, Int16, Byte[])+0x191
    00000000152BCFD0 00007FFADDA75D3C System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32)+0x1c
    00000000152BD010 00007FFADDA75C42 TestLib!TestLib.Logger.LogEvent(System.Diagnostics.EventLogEntryType, TestLib.WindowEventLogId, System.String)+0x322

StackTraceString: <none>
HResult: 80070057

0:041> dd 00000000152BCEC0 
00000000`152bcec0  ???????? ???????? ???????? ????????
00000000`152bced0  ???????? ???????? ???????? ????????
00000000`152bcee0  ???????? ???????? ???????? ????????
00000000`152bcef0  ???????? ???????? ???????? ????????
00000000`152bcf00  ???????? ???????? ???????? ????????
00000000`152bcf10  ???????? ???????? ???????? ????????
00000000`152bcf20  ???????? ???????? ???????? ????????
00000000`152bcf30  ???????? ???????? ???????? ????????

반면, INI 파일을 windbg에서 열면 ini 내부에 지정된 덤프를 자동으로 모두 열고,

Loading Dump File [D:\temp\procdump.ini]

Loading User-mode Dump Configuration File [D:\temp\procdump.ini,D:,\temp\]
    default dump: [procdump-1.dmp]
    memory dump: [procdump-reflected.dmp]
    module list dump: [procdump-1.dmp]

Loading Dump File [D:\temp\procdump-1.dmp]
Comment: '
*** procdump  -r -ma reportingservicesservice.exe D:\temp\procdump.dmp
*** Timed dump'
User Mini Dump File: Only registers, stack and portions of memory are available


Loading Dump File [D:\temp\procdump-reflected.dmp]
User Mini Dump File with Full Memory: Only application data is available

Comment: '
*** procdump  -r -ma reportingservicesservice.exe D:\temp\procdump.dmp
*** Timed dump'

.NET SOS 확장 dll 로드 및 여타 메모리 조사도 정상적으로 잘 동작합니다.

0:000> .load C:\Windows\Microsoft.NET\Framework64\v2.0.50727\sos.dll

0:041> !printexception
Exception object: 000000008067dec0
Exception type: System.ArgumentException
Message: The source '...' is not registered in log '...'. (It is registered in log '...'.) " The Source and Log properties must be matched, or you may set Log to the empty string, and it will automatically be matched to the Source property.
InnerException: <none>
StackTrace (generated):
    SP               IP               Function
    00000000152BCEC0 00007FFADD466353 System!System.Diagnostics.EventLog.VerifyAndCreateSource(System.String, System.String)+0x313
    00000000152BCF30 00007FFADD465BC1 System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32, Int16, Byte[])+0x191
    00000000152BCFD0 00007FFADDA75D3C System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32)+0x1c
    00000000152BD010 00007FFADDA75C42 TestLib!TestLib.Logger.LogEvent(System.Diagnostics.EventLogEntryType, TestLib.WindowEventLogId, System.String)+0x322

StackTraceString: <none>
HResult: 80070057

0:041> dd 00000000152BCEC0 
00000000`152bcec0  1a5b61a0 00000000 007f0628 00000000
00000000`152bced0  fffffffe ffffffff 757fe648 00001871
00000000`152bcee0  00989680 00000000 000000c6 00000000
00000000`152bcef0  757fe648 00001871 152bcf48 00000000
00000000`152bcf00  80c90c30 00000000 dcc46a99 00007ffa
00000000`152bcf10  80c90b78 00000000 3c186d89 00007ffb
00000000`152bcf20  00000001 00000000 00000001 00000000"
00000000`152bcf30  00000000 00000000 3c18a092 00007ffb

이로써, 운영 서버에도 풀 덤프를 남겨달라고 부탁해도 크게 부담이 없게 되었습니다. (그래도, 부담스러워하는 고객이 있겠지만. ^^)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 7/17/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2017-08-04 04시23분
@taehwalee 님이 알려주신 정보... ^^

Windows 8, 2012 R2 부터는 OS에서 기능이 더 좋아져서 -r 옵션을 사용하면 덤프 파일이 1개만 생성된다고 하네요 (기존은 3개죠, 블로그에 쓰신것 처럼요)
; https://twitter.com/taehwalee/status/893310350925455360
정성태
2018-10-23 04시11분
zodiacon/AllTools - All reasonably stable tools
; https://github.com/zodiacon/AllTools

Windows Internals Book 7th edition Tools
; https://github.com/zodiacon/WindowsInternals
정성태

... 31  32  [33]  34  35  36  37  38  39  40  41  42  43  44  45  ...
NoWriterDateCnt.TitleFile(s)
12824정성태9/2/202117480오류 유형: 760. 파이썬 tensorflow - Dst tensor is not initialized. 오류 메시지
12823정성태9/2/20217050스크립트: 26. 파이썬 - PyCharm을 이용한 fork 디버그 방법
12822정성태9/1/202112301오류 유형: 759. 파이썬 tensorflow - ValueError: Shapes (...) and (...) are incompatible [2]
12821정성태9/1/20217922.NET Framework: 1112. C# - .NET 6부터 공개된 ISpanFormattable 사용법
12820정성태9/1/20218178VC++: 147. Golang - try/catch에 대응하는 panic/recover [1]파일 다운로드1
12819정성태8/31/20218303.NET Framework: 1111. C# - FormattableString 타입
12818정성태8/31/20217524Windows: 198. 윈도우 - 작업 관리자에서 (tensorflow 등으로 인한) GPU 연산 부하 보는 방법
12817정성태8/31/202110183스크립트: 25. 파이썬 - 윈도우 환경에서 directml을 이용한 tensorflow의 AMD GPU 사용 방법
12816정성태8/30/202115542스크립트: 24. 파이썬 - tensorflow 2.6 NVidia GPU 사용 방법 [2]
12815정성태8/30/20218631개발 환경 구성: 602. WSL 2 - docker-desktop-data, docker-desktop (%LOCALAPPDATA%\Docker\wsl\data\ext4.vhdx) 파일을 다른 디렉터리로 옮기는 방법
12814정성태8/30/202110968.NET Framework: 1110. C# 11 - 인터페이스 내에 정적 추상 메서드 정의 가능 (DIM for Static Members) [2]파일 다운로드1
12813정성태8/29/20219148.NET Framework: 1109. C# 10 - (11) Lambda 개선파일 다운로드1
12812정성태8/28/20218783.NET Framework: 1108. C# 10 - (10) 개선된 #line 지시자
12811정성태8/27/20218986Linux: 44. 윈도우 개발자를 위한 리눅스 fork 동작 방식 설명 (파이썬 코드)
12810정성태8/27/20217787.NET Framework: 1107. .NET Core/5+에서 동적 컴파일한 C# 코드를 (Breakpoint도 활용하며) 디버깅하는 방법 - #line 지시자파일 다운로드1
12809정성태8/26/20218459.NET Framework: 1106. .NET Core/5+에서 C# 코드를 동적으로 컴파일/사용하는 방법 [1]파일 다운로드1
12808정성태8/25/20219672오류 유형: 758. go: ...: missing go.sum entry; to add it: go mod download ...
12807정성태8/25/20219690.NET Framework: 1105. C# 10 - (9) 비동기 메서드가 사용할 AsyncMethodBuilder 선택 가능파일 다운로드1
12806정성태8/24/20217313개발 환경 구성: 601. PyCharm - 다중 프로세스 디버깅 방법
12805정성태8/24/20218543.NET Framework: 1104. C# 10 - (8) 분해 구문에서 기존 변수의 재사용 가능파일 다운로드1
12804정성태8/24/20219243.NET Framework: 1103. C# 10 - (7) Source Generator V2 APIs
12803정성태8/23/20218983개발 환경 구성: 600. pip cache 디렉터리 옮기는 방법
12802정성태8/23/20219204.NET Framework: 1102. .NET Conf Mini 21.08 - WinUI 3 따라해 보기 [1]
12801정성태8/23/20218716.NET Framework: 1101. C# 10 - (6) record class 타입의 ToString 메서드를 sealed 처리 허용파일 다운로드1
12800정성태8/22/20218925개발 환경 구성: 599. PyCharm - (반대로) 원격 프로세스가 PyCharm에 디버그 연결하는 방법
12799정성태8/22/20218951.NET Framework: 1100. C# 10 - (5) 속성 패턴의 개선파일 다운로드1
... 31  32  [33]  34  35  36  37  38  39  40  41  42  43  44  45  ...