Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 2개 있습니다.)
(시리즈 글이 6개 있습니다.)
디버깅 기술: 130. windbg - CoTaskMemFree/FreeCoTaskMem에서 발생한 덤프 분석 사례
; https://www.sysnet.pe.kr/2/0/12058

디버깅 기술: 131. windbg/Visual Studio - HeapFree x86의 동작 분석
; https://www.sysnet.pe.kr/2/0/12059

디버깅 기술: 132. windbg/Visual Studio - HeapFree x64의 동작 분석
; https://www.sysnet.pe.kr/2/0/12060

디버깅 기술: 133. windbg - CoTaskMemFree/FreeCoTaskMem에서 발생한 덤프 분석 사례 - 두 번째 이야기
; https://www.sysnet.pe.kr/2/0/12062

디버깅 기술: 138. windbg와 Win32 API로 알아보는 Windows Heap 정보 분석
; https://www.sysnet.pe.kr/2/0/12068

디버깅 기술: 144.  windbg - Marshal.FreeHGlobal에서 발생한 덤프 분석 사례
; https://www.sysnet.pe.kr/2/0/12086




windbg - CoTaskMemFree/FreeCoTaskMem에서 발생한 덤프 분석 사례

crash가 발생하는 덤프 2개를 보는데, 충돌이 발생한 콜스택이 각각 다음과 같았습니다.

ntdll.dll!RtlReportCriticalFailure()    Unknown
ntdll.dll!RtlpHeapHandleError() Unknown
ntdll.dll!RtlpLogHeapFailure()  Unknown
ntdll.dll!RtlFreeHeap() Unknown
OraOps19.dll!00007ffcf061fbaf() Unknown
OraOps19.dll!00007ffcf0628a29() Unknown

ntdll.dll!RtlReportCriticalFailure()    Unknown
ntdll.dll!RtlpHeapHandleError() Unknown
ntdll.dll!RtlpLogHeapFailure()  Unknown
ntdll.dll!RtlFreeHeap() Unknown
[Managed to Native Transition]  
mscorlib.dll!System.Runtime.InteropServices.Marshal.FreeCoTaskMem(System.IntPtr ptr)    Unknown
Oracle.DataAccess.dll!Oracle.DataAccess.Client.OracleCommand.ExecuteReader(bool requery, bool fillRequest, System.Data.CommandBehavior behavior)    Unknown
Oracle.DataAccess.dll!Oracle.DataAccess.Client.OracleCommand.ExecuteReader()    Unknown
...[생략]...
System.Web.dll!System.Web.Hosting.PipelineRuntime.ProcessRequestNotificationHelper(System.IntPtr rootedObjectsPointer, System.IntPtr nativeRequestContext, System.IntPtr moduleData, int flags) Unknown
System.Web.dll!System.Web.Hosting.PipelineRuntime.ProcessRequestNotification(System.IntPtr rootedObjectsPointer, System.IntPtr nativeRequestContext, System.IntPtr moduleData, int flags)   Unknown
[Native to Managed Transition]  
webengine4.dll!W3_MGD_HANDLER::ProcessNotification(void)    Unknown
webengine4.dll!ProcessNotificationCallback(void *)  Unknown
kernel32.dll!BaseThreadInitThunk()  Unknown
ntdll.dll!RtlUserThreadStart()  Unknown

하나는 Oracle 측의 ODAC 구성 요소인 OraOps19.dll에서 발생한 것이고, 또 하나도 역시 ODAC의 .NET 구성 요소인 Oracle.DataAccess.dll에서 발생했지만 Marshal 타입의 CoTaskMemAlloc에 대응한 FreeCoTaskMem에서 발생한 것을 쉽게 알 수 있습니다.

Marshal.AllocCoTaskMem(Int32) Method
; https://learn.microsoft.com/en-us/dotnet/api/system.runtime.interopservices.marshal.alloccotaskmem?view=netframework-4.8

Marshal.FreeCoTaskMem(IntPtr) Method
; https://learn.microsoft.com/en-us/dotnet/api/system.runtime.interopservices.marshal.freecotaskmem?view=netframework-4.8

2개의 덤프를 보면 서로 연관이 없는 듯싶고 그냥 단순히 heap이 깨졌나 정도로만 생각했습니다. 그러다 첫 번째의 "OraOps19.dll!00007ffcf061fbaf()" 함수를 조금 더 자세하게 살펴봤는데요,

[OraOps19.dll!00007ffcf061fbaf()]

00007FFCF061FBA0 48 83 EC 28          sub         rsp,28h  
00007FFCF061FBA4 48 85 C9             test        rcx,rcx  
00007FFCF061FBA7 74 06                je          00007FFCF061FBAF  
00007FFCF061FBA9 FF 15 79 10 03 00    call        qword ptr [7FFCF0650C28h]  
00007FFCF061FBAF B8 01 00 00 00       mov         eax,1  
00007FFCF061FBB4 48 83 C4 28          add         rsp,28h  
00007FFCF061FBB8 C3                   ret  

7FFCF0650C28h 주솟값에는 qword 값으로 00007ffd0390b790 값이 담겨 있는 것을 메모리 창을 통해 확인하고,

0x00007FFCF0650C28  00007ffd0390b790
0x00007FFCF0650C30  0000000000000000

이어서 00007ffd0390b790 주솟값의 코드를 확인했는데,

--- d:\rs1\onecore\com\combase\class\memapi.cxx --------------------------------
00007FFD0390B790 48 83 EC 28          sub         rsp,28h  
00007FFD0390B794 48 8B 05 05 5B 21 00 mov         rax,qword ptr [g_CMalloc (07FFD03B212A0h)]  
00007FFD0390B79B 48 8D 15 EE D4 04 00 lea         rdx,[CRetailMalloc_Free (07FFD03958C90h)]  
00007FFD0390B7A2 48 8B 40 28          mov         rax,qword ptr [rax+28h]  
00007FFD0390B7A6 48 3B C2             cmp         rax,rdx  
00007FFD0390B7A9 75 21                jne         CoTaskMemFree+3Ch (07FFD0390B7CCh)  
00007FFD0390B7AB 48 85 C9             test        rcx,rcx  
00007FFD0390B7AE 74 17                je          CoTaskMemFree+37h (07FFD0390B7C7h)  
00007FFD0390B7B0 4C 8B C1             mov         r8,rcx  
00007FFD0390B7B3 33 D2                xor         edx,edx  
00007FFD0390B7B5 48 8B 0D 1C 5A 21 00 mov         rcx,qword ptr [g_hHeap (07FFD03B211D8h)]  
00007FFD0390B7BC 48 83 C4 28          add         rsp,28h  
00007FFD0390B7C0 48 FF 25 A1 C4 19 00 jmp         qword ptr [__imp_HeapFree (07FFD03AA7C68h)]  
00007FFD0390B7C7 48 83 C4 28          add         rsp,28h  
00007FFD0390B7CB C3                   ret  

코드 내에 CoTaskMemFree+xxh로 점프하는 구문이 있는 것으로 보아 왠지 CoTaskMemFree 함수 같아 보입니다. 확인을 위해 두 번째 덤프의 Marshal.FreeCoTaskMem 코드에서도 문제가 되는 호출을 확인해 봤습니다.

[mscorlib.dll!System.Runtime.InteropServices.Marshal.FreeCoTaskMem(System.IntPtr ptr)    Unknown]

00007FFC9973EAD2 57                   push        rdi  
00007FFC9973EAD3 41 56                push        r14  
00007FFC9973EAD5 41 55                push        r13  
00007FFC9973EAD7 41 54                push        r12  
00007FFC9973EAD9 57                   push        rdi  
00007FFC9973EADA 56                   push        rsi  
00007FFC9973EADB 53                   push        rbx  
00007FFC9973EADC 48 83 EC 68          sub         rsp,68h  
...[생략]...
00007FFC9973EB33 48 8D 45 90          lea         rax,[rbp-70h]  
00007FFC9973EB37 48 89 47 10          mov         qword ptr [rdi+10h],rax  
00007FFC9973EB3B C6 47 0C 00          mov         byte ptr [rdi+0Ch],0  
00007FFC9973EB3F FF 15 0B 78 AB FF    call        qword ptr [7FFC991F6350h]
00007FFC9973EB45 C6 47 0C 01          mov         byte ptr [rdi+0Ch],1  
...[생략]...
00007FFC9973EB68 5B                   pop         rbx  
00007FFC9973EB69 5E                   pop         rsi  
00007FFC9973EB6A 5F                   pop         rdi  
00007FFC9973EB6B 41 5C                pop         r12  
00007FFC9973EB6D 41 5D                pop         r13  
00007FFC9973EB6F 41 5E                pop         r14  
00007FFC9973EB71 41 5F                pop         r15  
00007FFC9973EB73 5D                   pop         rbp  
00007FFC9973EB74 C3                   ret  

역시 0x7FFC991F6350 주소에 담긴 qword 값을 확인했는데,

0x00007FFC991F6350  00007ffd0390b790
0x00007FFC991F6358  0000000000000000

첫 번째 덤프의 주솟값과 같습니다. 이번 경우에는 다행히 동일한 컴퓨터에서 발생한 덤프였기 때문에 ASLR의 영향이 적어 주솟값이 같았지만, 만약 다른 컴퓨터였다면 "u" 명령어 등을 통해 코드를 직접 확인했어야 할 것입니다.




이를 통해 문제의 원인을 찾는 범위를 훨씬 줄일 수 있습니다. 단순히 RtlFreeHeap에서 발생하는 거였다면 일반적인 문제가 되지만, 동일하게 CoTaskMemFree 과정에서 발생하는 문제였으므로 코드에서 사용한 Marshal.AllocCoTaskMem / Marshal.FreeCoTaskMem 관련 부분만 집중적으로 살펴보면 될 정도로 범위가 축소되는 것입니다. (물론, 그래도 엉뚱한 곳에서의 메모리 침범으로 발생했을 수도 있는 문제이므로 CoTask... 관련 코드와는 무관할 확률도 적진 않습니다.)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 7/7/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




... 151  152  153  154  155  156  157  158  159  160  161  162  [163]  164  165  ...
NoWriterDateCnt.TitleFile(s)
972정성태1/7/201124145개발 환경 구성: 95. SQL Server 2008 R2 이하 버전 정보 확인
971정성태1/5/201133726.NET Framework: 199. .NET 코드 - Named Pipe 닷넷 서버와 VC++ 클라이언트 제작 [2]파일 다운로드1
970정성태1/4/201134256.NET Framework: 198. 윈도우 응용 프로그램에 Facebook 로그인 연동 [1]파일 다운로드1
969정성태12/31/201040357VC++: 45. Winsock 2 Layered Service Provider - Visual Studio 2010용 프로젝트 [1]파일 다운로드1
968정성태12/30/201026612개발 환경 구성: 94. 개발자가 선택할 수 있는 윈도우에서의 네트워크 프로그래밍 기술 [2]
967정성태12/27/201028396.NET Framework: 197. .NET 코드 - 단일 Process 실행파일 다운로드1
966정성태12/26/201026355.NET Framework: 196. .NET 코드 - 창 흔드는 효과파일 다운로드1
965정성태12/25/201027851개발 환경 구성: 93. MSBuild를 이용한 닷넷 응용프로그램의 다중 어셈블리 출력 빌드파일 다운로드1
964정성태12/21/2010143025개발 환경 구성: 92. 윈도우 서버 환경에서, 최대 생성 가능한 소켓(socket) 연결 수는 얼마일까? [14]
963정성태12/13/201027889개발 환경 구성: 91. MSBuild를 이용한 닷넷 응용프로그램의 플랫폼(x86/x64)별 빌드 [2]파일 다운로드1
962정성태12/10/201022763오류 유형: 110. GAC 등록 - Failure adding assembly to the cache: Invalid file or assembly name.
961정성태12/10/201099804개발 환경 구성: 90. 닷넷에서 접근해보는 PostgreSQL DB [5]
960정성태12/8/201045097.NET Framework: 195. .NET에서 코어(Core) 관련 CPU 정보 알아내는 방법파일 다운로드1
959정성태12/8/201031926.NET Framework: 194. Facebook 연동 - API Error Description: Invalid OAuth 2.0 Access Token
958정성태12/7/201028925개발 환경 구성: 89. 배치(batch) 파일에서 또 다른 배치 파일을 동기 방식으로 실행 및 반환값 얻기 [2]
957정성태12/6/201031665디버깅 기술: 31. Windbg - Visual Studio 디버그 상태에서 종료해 버리는 응용 프로그램 [3]
953정성태11/28/201036881.NET Framework: 193. 페이스북(Facebook) 계정으로 로그인하는 C# 웹 사이트 제작 [5]
952정성태11/25/201025338.NET Framework: 192. GC의 부하는 상대적인 것! [4]
950정성태11/18/201076695.NET Framework: 191. ClickOnce - 관리자 권한 상승하는 방법 [17]파일 다운로드2
954정성태11/29/201048685    답변글 .NET Framework: 191.1. [답변] 클릭원스 - 요청한 작업을 수행하려면 권한 상승이 필요합니다. (Exception from HRESULT: 0x800702E4) [2]
949정성태11/16/201027243오류 유형: 109. System.ServiceModel.Security.SecurityNegotiationException
948정성태11/16/201036030.NET Framework: 190. 트위터 계정으로 로그인하는 C# 웹 사이트 제작 [7]파일 다운로드1
947정성태11/14/201041676.NET Framework: 189. Mono Cecil로 만들어 보는 .NET Decompiler [1]파일 다운로드1
946정성태11/11/201041514.NET Framework: 188. .NET 64비트 응용 프로그램에서 왜 (2GB) OutOfMemoryException 예외가 발생할까? [1]파일 다운로드1
945정성태11/11/201025037VC++: 44. C++/CLI 컴파일 오류 - error C4368: mixed types are not supported
944정성태11/11/201031534VC++: 43. C++/CLI 컴파일 오류 - error C2872: 'IServiceProvider' : ambiguous symbol could be ...
... 151  152  153  154  155  156  157  158  159  160  161  162  [163]  164  165  ...