Microsoft MVP성태의 닷넷 이야기
Windows: 116. 프로세스 풀 덤프 시간을 줄여 주는 Process Reflection [링크 복사], [링크+제목 복사],
조회: 22756
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 1개 있습니다.)

프로세스 풀 덤프 시간을 줄여 주는 Process Reflection

Windows Internals 책을 통해 Windows 7 이후 지원된다는 "Process Reflection"에 대해 처음 알게 되었습니다. ^^ (470 페이지에 자세하게 설명되어 있습니다.)

Windows Internals 제6판 Vol. 1: 마이크로소프트 윈도우 커널 공식 가이드 6판 
; http://www.yes24.com/24/goods/7877539

간단하게 설명해 보면!

프로세스 Full Dump 등을 남기려면 해당 EXE 프로세스의 동작을 중지시켜 사용 중인 메모리를 모두 디스크에 써야 하는데 이 소비 시간은 프로세스가 사용 중인 메모리의 크기에 영향을 받게 됩니다. 64비트 프로세스의 경우 대용량을 쓸 수 있다는 점을 감안하면 향후 미래를 생각해 봤을 때 분명히 문제가 아닐 수 없습니다.

마이크로소프트는 이에 대한 해법으로 "Process Reflection"을 구현했는데, 대상 프로세스의 현재 상태를 반영하는 임시 자식 프로세스를 생성하는 것입니다. 따라서, 덤프를 떠야 할 프로세스는 "미니 덤프를 생성할 시간"과 해당 프로세스에 대한 정지된 "클론"을 만드는 데 드는 시간 만큼만 중지하게 되어 실 서비스 운영 중에도 큰 부담없이 사용할 수 있다는 장점이 있습니다.

현재 이 정책을 반영한 프로그램이 sysinternals 도구에 포함된 procdump.exe입니다. procdump.exe로 full dump를 받는 방법은 다음과 같이 실행하게 되는데요.

C:\Windows\system32>procdump -ma reportingservicesservice.exe D:\temp\procdump.dmp

ProcDump v4.0 - Writes process dump files
Copyright (C) 2009-2011 Mark Russinovich
Sysinternals - www.sysinternals.com

Writing dump file D:\temp\procdump.dmp ...
Dump written.

대상 exe가 사용하는 모든 메모리를 디스크에 복사하기 때문에 이때 Process Explorer 등을 통해 살펴보면 reportingservicesservice.exe가 SUSPEND 상태로 머물러 있음을 확인할 수 있습니다.

하지만 윈도우 7부터 지원되는 '-r' 옵션을 이용해,

   -r      Dump using a clone. Concurrent limit is optional (default 1, max 5).
           CAUTION: a high concurrency value may impact system performance.
           - Windows 7   : Uses Reflection. OS doesn't support -e.
           - Windows 8.0 : Uses Reflection. OS doesn't support -e.
           - Windows 8.1+: Uses PSS. All trigger types are supported.

덤프를 남겨보면,

C:\Windows\system32>procdump -r -ma reportingservicesservice.exe D:\temp\procdump.dmp

ProcDump v4.0 - Writes process dump files
Copyright (C) 2009-2011 Mark Russinovich
Sysinternals - www.sysinternals.com

Writing dump file D:\temp\procdump-1.dmp ...
Dump written.

Writing dump file D:\temp\procdump-reflected.dmp ...
Dump written.

Finished writing reflected dump.
Open D:\temp\procdump.ini in the debugger to view the combined reflected dump.

보는 바와 같이 단계별로 2개의 .dmp 파일을 생성하고 그 파일들을 엮어주는 ini 파일이 다음의 내용으로 함께 생성됩니다.

[UserModeDump]
default=procdump-1.dmp
memory=procdump-reflected.dmp
module=procdump-1.dmp

여기서 procdump-1.dmp 파일은 minidump 유형의 덤프 파일로 이것을 남길 때만 대상 프로세스(본문에서는 reportingservicesservice.exe)가 SUSPEND 상태로 머물고 그 이후 메모리 덤프가 남겨지는 procdump-reflected.dmp 파일을 생성하는 동안에는 다시 정상적으로 서비스를 하게 됩니다.

실제로 windbg에서 procdump-1.dmp파일만 로드해서 .NET sos 확장 DLL을 로드하려고 하면 다음과 같이 경고 문구가 나옵니다.

0:000> .load C:\Windows\Microsoft.NET\Framework64\v2.0.50727\sos.dll
------------------------------------------------------------
sos.dll needs a full memory dump for complete functionality.
You can create one with .dump /ma <filename>
------------------------------------------------------------

당연하지만, 미니 덤프이기때문에 그에 포함되지 않은 영역의 메모리에 대한 내용은 보여지지 않는 경우가 많습니다.

0:041> !printexception
Exception object: 000000008067dec0
Exception type: System.ArgumentException
Message: The source '...' is not registered in log '...'. (It is registered in log '...'.) " The Source and Log properties must be matched, or you may set Log to the empty string, and it will automatically be matched to the Source property.
InnerException: <none>
StackTrace (generated):
    SP               IP               Function
    00000000152BCEC0 00007FFADD466353 System!System.Diagnostics.EventLog.VerifyAndCreateSource(System.String, System.String)+0x313
    00000000152BCF30 00007FFADD465BC1 System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32, Int16, Byte[])+0x191
    00000000152BCFD0 00007FFADDA75D3C System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32)+0x1c
    00000000152BD010 00007FFADDA75C42 TestLib!TestLib.Logger.LogEvent(System.Diagnostics.EventLogEntryType, TestLib.WindowEventLogId, System.String)+0x322

StackTraceString: <none>
HResult: 80070057

0:041> dd 00000000152BCEC0 
00000000`152bcec0  ???????? ???????? ???????? ????????
00000000`152bced0  ???????? ???????? ???????? ????????
00000000`152bcee0  ???????? ???????? ???????? ????????
00000000`152bcef0  ???????? ???????? ???????? ????????
00000000`152bcf00  ???????? ???????? ???????? ????????
00000000`152bcf10  ???????? ???????? ???????? ????????
00000000`152bcf20  ???????? ???????? ???????? ????????
00000000`152bcf30  ???????? ???????? ???????? ????????

반면, INI 파일을 windbg에서 열면 ini 내부에 지정된 덤프를 자동으로 모두 열고,

Loading Dump File [D:\temp\procdump.ini]

Loading User-mode Dump Configuration File [D:\temp\procdump.ini,D:,\temp\]
    default dump: [procdump-1.dmp]
    memory dump: [procdump-reflected.dmp]
    module list dump: [procdump-1.dmp]

Loading Dump File [D:\temp\procdump-1.dmp]
Comment: '
*** procdump  -r -ma reportingservicesservice.exe D:\temp\procdump.dmp
*** Timed dump'
User Mini Dump File: Only registers, stack and portions of memory are available


Loading Dump File [D:\temp\procdump-reflected.dmp]
User Mini Dump File with Full Memory: Only application data is available

Comment: '
*** procdump  -r -ma reportingservicesservice.exe D:\temp\procdump.dmp
*** Timed dump'

.NET SOS 확장 dll 로드 및 여타 메모리 조사도 정상적으로 잘 동작합니다.

0:000> .load C:\Windows\Microsoft.NET\Framework64\v2.0.50727\sos.dll

0:041> !printexception
Exception object: 000000008067dec0
Exception type: System.ArgumentException
Message: The source '...' is not registered in log '...'. (It is registered in log '...'.) " The Source and Log properties must be matched, or you may set Log to the empty string, and it will automatically be matched to the Source property.
InnerException: <none>
StackTrace (generated):
    SP               IP               Function
    00000000152BCEC0 00007FFADD466353 System!System.Diagnostics.EventLog.VerifyAndCreateSource(System.String, System.String)+0x313
    00000000152BCF30 00007FFADD465BC1 System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32, Int16, Byte[])+0x191
    00000000152BCFD0 00007FFADDA75D3C System!System.Diagnostics.EventLog.WriteEntry(System.String, System.Diagnostics.EventLogEntryType, Int32)+0x1c
    00000000152BD010 00007FFADDA75C42 TestLib!TestLib.Logger.LogEvent(System.Diagnostics.EventLogEntryType, TestLib.WindowEventLogId, System.String)+0x322

StackTraceString: <none>
HResult: 80070057

0:041> dd 00000000152BCEC0 
00000000`152bcec0  1a5b61a0 00000000 007f0628 00000000
00000000`152bced0  fffffffe ffffffff 757fe648 00001871
00000000`152bcee0  00989680 00000000 000000c6 00000000
00000000`152bcef0  757fe648 00001871 152bcf48 00000000
00000000`152bcf00  80c90c30 00000000 dcc46a99 00007ffa
00000000`152bcf10  80c90b78 00000000 3c186d89 00007ffb
00000000`152bcf20  00000001 00000000 00000001 00000000"
00000000`152bcf30  00000000 00000000 3c18a092 00007ffb

이로써, 운영 서버에도 풀 덤프를 남겨달라고 부탁해도 크게 부담이 없게 되었습니다. (그래도, 부담스러워하는 고객이 있겠지만. ^^)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 7/17/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2017-08-04 04시23분
@taehwalee 님이 알려주신 정보... ^^

Windows 8, 2012 R2 부터는 OS에서 기능이 더 좋아져서 -r 옵션을 사용하면 덤프 파일이 1개만 생성된다고 하네요 (기존은 3개죠, 블로그에 쓰신것 처럼요)
; https://twitter.com/taehwalee/status/893310350925455360
정성태
2018-10-23 04시11분
zodiacon/AllTools - All reasonably stable tools
; https://github.com/zodiacon/AllTools

Windows Internals Book 7th edition Tools
; https://github.com/zodiacon/WindowsInternals
정성태
2024-08-13 03시32분
-r 옵션의 "- Windows 8.1+: Uses PSS. All trigger types are supported." 설명에 "Use PSS"가 나오는데요, 이것의 의미가 ProcessSnapShot입니다. 실제로 이때 사용하는 Win32 API로 "Kernel32.dll"에 다음의 API가 추가됐습니다.

PssCaptureSnapshot function (processsnapshot.h)
; https://learn.microsoft.com/en-us/windows/win32/api/processsnapshot/nf-processsnapshot-psscapturesnapshot

이 API를 Microsoft.Diagnostics.Runtime의 DataTarget.CreateSnapshotAndAttach가 사용하는데요, 그래서 해당 메서드를 Windows Server 2008 R2 이하에서 실행하면 다음과 같은 예외가 발생합니다.

Unhandled Exception: System.EntryPointNotFoundException: Unable to find an entry point named 'PssCaptureSnapshot' in native library 'kernel32.dll'.
   at Internal.Runtime.CompilerHelpers.InteropHelpers.FixupMethodCell(IntPtr, InteropHelpers.MethodFixupCell*) + 0x161
   at Internal.Runtime.CompilerHelpers.InteropHelpers.ResolvePInvokeSlow(InteropHelpers.MethodFixupCell*) + 0x3d
   at Microsoft.Diagnostics.Runtime.WindowsProcessDataReader.PssCaptureSnapshot(IntPtr, PSS_CAPTURE_FLAGS, Int32, IntPtr&) + 0x35
   at Microsoft.Diagnostics.Runtime.WindowsProcessDataReader..ctor(Int32, WindowsProcessDataReaderMode) + 0x85
   at Microsoft.Diagnostics.Runtime.DataTarget.CreateSnapshotAndAttach(Int32, TokenCredential) + 0x11a
정성태

... 31  32  33  34  35  36  37  38  39  40  [41]  42  43  44  45  ...
NoWriterDateCnt.TitleFile(s)
12913정성태1/11/202216564.NET Framework: 1133. C# - byte * (바이트 포인터)를 FileStream으로 쓰는 방법 [1]
12912정성태1/11/202216539개발 환경 구성: 623. ffmpeg.exe를 사용해 비디오 파일의 이미지를 PGM(Portable Gray Map) 파일 포맷으로 출력하는 방법 [1]
12911정성태1/11/202213031VS.NET IDE: 171. 비주얼 스튜디오 - 더 이상 만들 수 없는 "ASP.NET Core 3.1 Web Application (.NET Framework)" 프로젝트
12910정성태1/10/202213744제니퍼 .NET: 30. 제니퍼 닷넷 적용 사례 (8) - CPU high와 DB 쿼리 성능에 문제가 함께 있는 사이트
12909정성태1/10/202215098오류 유형: 782. Visual Studio 2022 설치 시 "Couldn't install Microsoft.VisualCpp.Redist.14.Latest"
12908정성태1/10/202212408.NET Framework: 1132. C# - ref/out 매개변수의 IL 코드 처리
12907정성태1/9/202213983오류 유형: 781. (youtube-dl.exe) 실행 시 "This app can't run on your PC" / "Access is denied." 오류 발생
12906정성태1/9/202215268.NET Framework: 1131. C# - 네임스페이스까지 동일한 타입을 2개의 DLL에서 제공하는 경우 충돌을 우회하는 방법 [1]파일 다운로드1
12905정성태1/8/202214477오류 유형: 780. Could not load file or assembly 'Microsoft.VisualStudio.TextTemplating.VSHost.15.0, Version=16.0.0.0, Culture=neutral, PublicKeyToken=b03f5f7f11d50a3a' or one of its dependencies.
12904정성태1/8/202216464개발 환경 구성: 623. Visual Studio 2022 빌드 환경을 위한 github Actions 설정 [1]
12903정성태1/7/202215428.NET Framework: 1130. C# - ELEMENT_TYPE_INTERNAL 유형의 사용 예
12902정성태1/7/202215147오류 유형: 779. SQL 서버 로그인 에러 - provider: Shared Memory Provider, error: 0 - No process is on the other end of the pipe.
12901정성태1/5/202215549오류 유형: 778. C# - .NET 5+에서 warning CA1416: This call site is reachable on all platforms. '...' is only supported on: 'windows' 경고 발생
12900정성태1/5/202217445개발 환경 구성: 622. vcpkg로 ffmpeg를 빌드하는 경우 생성될 구성 요소 제어하는 방법
12899정성태1/3/202216915개발 환경 구성: 621. windbg에서 python 스크립트 실행하는 방법 - pykd (2)
12898정성태1/2/202217651.NET Framework: 1129. C# - ffmpeg(FFmpeg.AutoGen)를 이용한 비디오 인코딩 예제(encode_video.c) [1]파일 다운로드1
12897정성태1/2/202215561.NET Framework: 1128. C# - 화면 캡처한 이미지를 ffmpeg(FFmpeg.AutoGen)로 동영상 처리 [4]파일 다운로드1
12896정성태1/1/202220784.NET Framework: 1127. C# - FFmpeg.AutoGen 라이브러리를 이용한 기본 프로젝트 구성파일 다운로드1
12895정성태12/31/202117660.NET Framework: 1126. C# - snagit처럼 화면 캡처를 연속으로 수행해 동영상 제작 [1]파일 다운로드1
12894정성태12/30/202115693.NET Framework: 1125. C# - DefaultObjectPool<T>의 IDisposable 개체에 대한 풀링 문제 [3]파일 다운로드1
12893정성태12/27/202117445.NET Framework: 1124. C# - .NET Platform Extension의 ObjectPool<T> 사용법 소개파일 다운로드1
12892정성태12/26/202114271기타: 83. unsigned 형의 이전 값이 최댓값을 넘어 0을 지난 경우, 값의 차이를 계산하는 방법
12891정성태12/23/202114946스크립트: 38. 파이썬 - uwsgi의 --master 옵션
12890정성태12/23/202115209VC++: 152. Golang - (문자가 아닌) 바이트 위치를 반환하는 strings.IndexRune 함수
12889정성태12/22/202118005.NET Framework: 1123. C# - (SharpDX + DXGI) 화면 캡처한 이미지를 빠르게 JPG로 변환하는 방법파일 다운로드1
12888정성태12/21/202115159.NET Framework: 1122. C# - ImageCodecInfo 사용 시 System.Drawing.Image와 System.Drawing.Bitmap에 따른 Save 성능 차이파일 다운로드1
... 31  32  33  34  35  36  37  38  39  40  [41]  42  43  44  45  ...