Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

(시리즈 글이 5개 있습니다.)
.NET Framework: 335. C# - (핸들을 이용하여) 모든 열린 파일을 열람
; https://www.sysnet.pe.kr/2/0/1338

.NET Framework: 525. C# - 닷넷에서 프로세스가 열고 있는 파일 목록을 구하는 방법
; https://www.sysnet.pe.kr/2/0/10833

.NET Framework: 870. C# - 프로세스의 모든 핸들을 열람
; https://www.sysnet.pe.kr/2/0/12080

.NET Framework: 877. C# - 프로세스의 모든 핸들을 열람 - 두 번째 이야기
; https://www.sysnet.pe.kr/2/0/12107

.NET Framework: 902. C# - 프로세스의 모든 핸들을 열람 - 세 번째 이야기
; https://www.sysnet.pe.kr/2/0/12195




C# - 닷넷에서 프로세스가 열고 있는 파일 목록을 구하는 방법

프로세스(EXE)에서 열고 있는 파일을 열거하는 방법이 마이크로소프트 코드 사이트에 공개되어 있습니다.

File handle operations demo (CppFileHandle)
; https://code.msdn.microsoft.com/windowsapps/CppFileHandle-03c8ea0b

위의 방법은 C++ 코드인데 이를 보고 PInvoke를 이용해 C#으로 변경할 수 있겠지만 이미 그런 작업을 해둔 분이 계십니다. ^^

Enumerate Open/Locked File Handles by Process
; https://gallery.technet.microsoft.com/scriptcenter/Open-Locked-File-Handles-faffd369

그냥 가져다 쓰시면 됩니다. ^^

방법은 대략 다음과 같은 단계로 요약됩니다.

  1. 임의의 크기로 메모리 할당을 받는다.
  2. 1번 과정에서 할당받은 영역을 NtQuerySystemInformation에 전달. 만약 핸들 정보를 담기에 메모리가 부족하면 4번째 인자에 필요한 메모리의 크기와 함께 STATUS_INFO_LENGTH_MISMATCH를 반환 (성공한 경우 STATUS_SUCCESS(0)을 반환)
  3. 2번 과정에서 STATUS_INFO_LENGTH_MISMATCH가 반환된 경우, 4번째 인자에 해당하는 크기의 메모리를 다시 할당받아 NtQuerySystemInformation에 전달. 이번에도 STATUS_INFO_LENGTH_MISMATCH 반환이 나올 수 있는데, 왜냐하면 1번 호출한 이후 그 와중에 새롭게 핸들이 열렸다면 메모리 크기가 늘어나기 때문.

그런데, 위의 소스코드 모두 특정 환경에서 두 번째 NtQuerySystemInformation의 반환값이 STATUS_SUCCESS임에도 불구하고 핸들의 수가 764504201192와 같은 식의 말도 안되는 값이 나오는 경우가 있었습니다. 100% 재현되는 환경은 다음과 같습니다.

  • 윈도우 서버 2012 클린 설치
  • .NET 4.5로 컴파일(.NET 4.0 이하로 컴파일하면 정상 동작)

위의 이유 때문에 ^^ 지난 글이 써진 것입니다.

.NET 4.0과 .NET 4.5의 컴파일 결과 차이점
; https://www.sysnet.pe.kr/2/0/10831

일단, "High Entropy Virtual Addresses" 옵션이 영향을 주긴 했지만 근본적인 문제는 그것이 아니었습니다.




그럼, 원인 파악을 좀 해볼까요? ^^

문제를 쉽게 하기 위해 C++로 다음의 코드를 작성했습니다.

int length = 0x1000;

LPVOID pVoid = ::GlobalAlloc(0, length);

ULONG returnLength = 0;
NTSTATUS ntResult = NtQuerySystemInformation((SYSTEM_INFORMATION_CLASS)16, (LPVOID)pVoid, length, &returnLength);
if (ntResult == STATUS_INFO_LENGTH_MISMATCH)
{
    // Round required memory up to the nearest 64KB boundary. 
    length = ((returnLength + 0xffff) & ~0xffff);
}

::GlobalFree(pVoid);

pVoid = ::GlobalAlloc(0, length);

ntResult = NtQuerySystemInformation((SYSTEM_INFORMATION_CLASS)16, (LPVOID)pVoid, length, &returnLength);
if (ntResult == STATUS_SUCCESS)
{
    __int64 *lResult = (__int64 *)pVoid;
    printf("%I64d\n", *lResult); // 이 값이 바로 열린 핸들의 수를 나타냄
}
else
{
    printf("ntquery failed: %d\n", ntResult);
}

위의 코드를 컴파일해 윈도우 서버 2012 (클린 설치)에서 실행하면 문제가 발생하는 것을 확인할 수 있습니다. 위에서는 GlobalAlloc을 사용했지만 "File handle operations demo (CppFileHandle)" 예제에서처럼 "HeapAlloc(GetProcessHeap(), 0, nSize);" 코드를 사용해도 마찬가지입니다.

제가 가진 윈도우 10에서 실행하면 "123995"와 같은 수가 나오지만 윈도우 서버 2012 R2에서는 "6944656590838556396"와 같은 황당한 수가 나옵니다. 상식적으로 저렇게 많은 핸들이 열렸을 리도 없고 실제로 저 수만 믿고 핸들 정보를 열람하게 되면 STATUS_ACCESS_VIOLATION(0xC0000005) 오류가 발생하게 됩니다.

문제인 즉!

할당된 메모리에 대한 0 초기화가 이뤄져야 한다는 것입니다. 테스트를 위해 두 번째 GlobalAlloc(또는 HeapAlloc) 다음에 다음과 같은 코드를 추가하고,

bool allZero = true;
BYTE *pBytes = (BYTE *)pVoid;
for (int i = 0; i < length; i++)
{
    if (*(pBytes) != 0)
    {
        allZero = false;
        break;
    }
}

printf("AllZero == %s\n", (allZero == true) ? "true" : "false");

윈도우 서버 2012 R2(클린 설치)에서 실행하면 "AllZero == false"가 출력되지만 다른 운영체제에서는 "AllZero == true"가 나옵니다.

어쩌면 이건 확률상의 문제일지도 모릅니다. 메모리 할당 함수는 일반적으로 VirtualAlloc으로 큰 영역을 할당받고 그 영역 내에서 GlobalAlloc/HeapAlloc과 같은 메모리 할당 함수가 실제로 필요한 영역의 메모리를 요구하게 됩니다. 운이 좋게도 다른 환경에서는 항상 GlobalAlloc/HeapAlloc으로 요구된 메모리가 기존 할당해 놓은 VirtualAlloc의 영역을 초과해 새롭게 "VirtualAlloc(nullptr, length, MEM_RESERVE | MEM_COMMIT, PAGE_READWRITE);"과 같은 식의 호출을 유발, VirtualAlloc에 의해 최초 메모리가 할당되었을 때는 0으로 초기화가 때문에 문제 없이 NtQuerySystemInformation 호출이 성공한 경우일 수 있습니다.

반면, 윈도우 서버 2012 R2에서는 요청된 2번째 GlobalAlloc/HeapAlloc에서 새로운 메모리가 아닌 기존에 이미 사용중이던 영역의 메모리가 재사용되었고 그곳은 0으로 초기화되지 않았기 때문에 NtQuerySystemInformation 호출에 실패한 것으로 볼 수 있습니다.

실제로 윈도우 서버 2012 R2 이외의 운영체제에서 GlobalAlloc/HeapAlloc으로 할당받았던 메모리에 다음과 같은 식의 쓰레기 값을 채워넣으면 동일한 현상이 재현됩니다.

pVoid = ::HeapAlloc(GetProcessHeap(), 0, length);

BYTE *pBytes = (BYTE *)pVoid;
for (int i = 0; i < length; i++)
{
    *(pBytes + i) = 0x60;
}




결국 해결방법은 ^^ 본문에 나온 것처럼 그냥 0으로 초기화만 해주면 됩니다.

pVoid = ::GlobalAlloc(0, length); // 또는 pVoid = ::HeapAlloc(GetProcessHeap(), 0, length);
memset(pVoid, 0, length);

또는 각각의 함수에서 제공하는 0 초기화 옵션을 사용하면 됩니다.

pVoid = ::GlobalAlloc(GMEM_ZEROINIT, length);

// 또는

pVoid = ::HeapAlloc(GetProcessHeap(), HEAP_ZERO_MEMORY, length);

닷넷의 경우 동일한 크기의 byte 배열을 만들어 Marshal.Copy를 하는 방법이 있으나 기왕 Win32 API를 interop해서 호출하는 것이므로 차라리 ZeroMemory Win32 API로 해결하는 것이 더 좋습니다.

// NativeMemory.Clear
// .NET Core 3 미만의 경우
[DllImport("Kernel32.dll", EntryPoint = "RtlZeroMemory", SetLastError = false)]
internal static extern void ZeroMemory(IntPtr dest, IntPtr size);
        
ptr = Marshal.AllocHGlobal(length);
ZeroMemory(ptr, new IntPtr(length));

// .NET Core 3+의 경우
ptr = Marshal.AllocHGlobal(length);
Unsafe.InitBlockUnaligned((byte)ptr.ToPointer(), 0, length);

정리하면, NtQuerySystemInformation 함수에 전달할 메모리는 반드시 0으로 초기화 해줄 것!

(첨부한 파일은 이 글의 테스트 코드를 포함합니다.)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 1/16/2024]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




... 166  167  168  169  170  171  172  173  174  175  176  177  [178]  179  180  ...
NoWriterDateCnt.TitleFile(s)
536정성태9/12/200732342.NET Framework: 97. WCF : netTcpBinding에서의 각종 Timeout 값 설명 [11]
535정성태9/11/200729805.NET Framework: 96. WCF - PerSession에서의 클라이언트 연결 관리 [5]
534정성태9/3/200725303개발 환경 구성: 29. VHD 파일 크기 줄이기
533정성태9/2/200728002개발 환경 구성: 28. CA 서비스 - 사용자 정의 템플릿 유형 추가
532정성태9/2/200730532개발 환경 구성: 27. AD CA에서 Code Signing 인증서 유형 추가 방법
531정성태9/2/200726272.NET Framework: 95. WCF에서의 DataTable 사용
530정성태9/1/200722751.NET Framework: 94. WCF 예외에 대한 시행착오
529정성태8/31/200725675.NET Framework: 93. WCF - DataContract와 KnownType 특성 [1]
528정성태8/30/200720324오류 유형: 47. VPC - 네트워크 어댑터 MAC 주소 중복 오류
527정성태8/30/200730420Team Foundation Server: 20. 잠긴 파일을 강제로 해제 [2]
526정성태8/29/200720304오류 유형: 46. VS.NET 2008 - ASP.NET 디버깅 : Strong name validation failed.
525정성태8/27/200722558VS.NET IDE: 54. VS.NET 2008 - 새롭게 도입되는 XSD Schema Designer
524정성태8/23/200740065오류 유형: 45. 요청한 작업은, 사용자가 매핑한 구역이 열려 있는...
523정성태8/16/200722687VS.NET IDE: 53. VS.NET 2008 - 서비스 참조 시 기존 데이터 컨테이너 DLL 사용
522정성태8/13/200726355VS.NET IDE: 52. VS.NET 2008 - WCF를 위한 디버깅 환경 개선
521정성태8/8/200726380.NET Framework: 92. XmlSerializer 생성자의 실행 속도를 올리는 방법 - 두 번째 이야기 [3]
520정성태8/7/200721569VS.NET IDE: 51. Visual Studio 2008 베타 2 설치
519정성태7/27/200727935오류 유형: 44. System.BadImageFormatException [2]
518정성태7/26/200728971오류 유형: 43. System.ComponentModel.LicenseException [1]
517정성태7/19/200717237개발 환경 구성: 26. VPC - 일반 사용자 계정으로 구동
516정성태7/19/200720368오류 유형: 42. TFS - Error loading menu: Index was outside the bounds of the array [2]
515정성태7/18/200728093오류 유형: 41. SSL 서버 자격 증명을 만드는 동안 심각한 오류가 발생했습니다.
514정성태7/14/200720793Team Foundation Server: 19. Orcas에서 개선되는 TFS 기능들
513정성태7/4/200731773.NET Framework: 91. Foreground Thread / Background Thread [1]
512정성태6/27/200721721오류 유형: 40. error PRJ0050: Failed to register output.
511정성태6/25/200729708.NET Framework: 90. XmlSerializer 생성자의 실행 속도를 올리는 방법 [2]
... 166  167  168  169  170  171  172  173  174  175  176  177  [178]  179  180  ...