Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 

COM 프로그래밍에서 HRESULT 타입의 S_FALSE는 실패일까요? 성공일까요?

결론부터 말하면 HRESULT 타입의 S_FALSE 반환값은 성공에 해당합니다. 확인을 위해 다음과 같이 간단하게 코드를 작성할 수 있습니다.

#include "stdafx.h"

int _tmain(int argc, _TCHAR* argv[])
{
    HRESULT hr = S_FALSE;

    printf("SUCCEEDED == %d\n", SUCCEEDED(hr)); // 출력값: 1
    return 0;
}

SUCCEEDED 매크로의 정의를 보면 확실히 알 수 있는데요.

#define SUCCEEDED(hr) (((HRESULT)(hr)) >= 0)

0 이상의 값이면 True라는 의미인데,

#define S_OK 0x0
#define S_FALSE 0x1

과 같은 식으로 값이 할당되어 있기 때문에 S_OK와 S_FALSE는 모두 SUCCEEDED 매크로에 대해 True 값을 반환하게 됩니다. 실제로 이에 대해 마이크로소프트 측의 공식 문서에서도 언급하고 있습니다.

Error Handling in COM
; https://docs.microsoft.com/en-us/windows/win32/learnwin32/error-handling-in-com

그럼 의문을 가질 수 있는 부분이 있는데, 그렇다면 실패한 경우의 일반적인 값으로 S_FALSE 대신 어떤 것을 반환해야 할 것인가? 하는 문제가 남습니다. 그럴 때는 E_FAIL 같은 값을 사용하면 됩니다.

#define E_FAIL 0x80004005

0x8...로 시작하기 때문에 최상위 비트가 1이고 이 때문에 HRESULT 타입에서는 음수값으로 표현됩니다.

처음에는 저도 이런 정책에 대해 이해를 할 수 없었는데 "Error Handling in COM" 문서의 다음 글을 읽고 그나마 수긍하게 되었습니다.

For example, the CoInitializeEx function returns S_FALSE if you call it a second time from the same thread.




사실, 이게 문제가 되는 경우가 있었는데요.

ICorProfilerInfo *ptr = ...;

IUnknown *pOut = nullptr;
HRESULT hr = ptr->GetModuleMetaData(moduleId, ..., &pOut);
if (FAILED(hr) == TRUE)
{
    return;
}

// 이하, GetModuleMetaData 호출이 성공했으므로 pOut 인터페이스 사용하는 코드 작성

저렇게 작성한 코드에서 간혹 가다가 프로세스 비정상 종료 현상이 발생한 것입니다. (현실적으로, 그 많은 코드 중에 잘 실행되지도 않던 저 부분에 문제가 있다는 것을 알게 되기까지는 제법 시간이 걸렸습니다. ^^;)

알고 보니, 가끔씩 S_FALSE 값이 반환되는 경우가 있었고 그럴 때 pOut은 nullptr 였는데 이 상태에서 사용을 하다 보니 비정상 종료가 발생한 것입니다. 그런데 왜? S_FALSE 값을 반환했느냐가 궁금해졌는데, 문서를 찾아보니 해답이 나왔습니다.

ICorProfilerInfo::GetModuleMetaData Method
; https://docs.microsoft.com/en-us/dotnet/framework/unmanaged-api/profiling/icorprofilerinfo-getmodulemetadata-method

Some modules (such as resource modules) have no metadata. In those cases, GetModuleMetaData will return an HRESULT value of S_FALSE, and a null in *ppOut.


즉, 전달된 .NET 모듈 식별자(moduleId)가 메타데이터를 가지고 있지 않은 경우에는 S_FALSE를 반환한 것입니다. 일면 이해가 됩니다. 닷넷의 경우 사용자가 만든 대부분의 모듈은 메타데이터를 가지고 있지만, 간혹 마이크로소프트가 만든 것은 다중 모듈로 분리된 어셈블리를 형성하고 있기 때문에 이런 경우가 발생합니다. (결국 그런 상황이 겹쳐서 프로세스 비정상 종료가 일정한 규칙을 갖지 않고 발생하게 된 원인이 되어 더욱 문제 해결에 애를 먹었습니다.)

휴~~~ 암튼, 이래서 문서를 꼭 봐야 한다는!




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 7/17/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2015-01-27 01시42분
[hhyyaa] hr == S_OK 가 아니라... SUCCEEDED(hr)를 써야할 이유가 있었군요. ㅡㅡ; S_FALSE도 성공이었다니...
[guest]
2016-04-23 07시23분
[테엘] Error Handling in COM 문서에서 Community Additions(kittoinc)이 더 황당함. 위에서 그렇게 resource에 관한 rule들을 언급했는데도 저런 딴지를 걸다니... 저런 식으로 return하면 동일한 resource 해제문이 점점 늘어난다는 생각은 안하나봐요!
[guest]

... 61  62  63  64  65  66  67  68  69  70  71  72  [73]  74  75  ...
NoWriterDateCnt.TitleFile(s)
12111정성태1/12/202020597디버깅 기술: 155. C# - KernelMemoryIO 드라이버를 이용해 실행 프로그램을 숨기는 방법(DKOM: Direct Kernel Object Modification) [16]파일 다운로드1
12110정성태1/11/202019952디버깅 기술: 154. Patch Guard로 인해 블루 스크린(BSOD)가 발생하는 사례 [5]파일 다운로드1
12109정성태1/10/202016627오류 유형: 588. Driver 프로젝트 빌드 오류 - Inf2Cat error -2: "Inf2Cat, signability test failed."
12108정성태1/10/202017452오류 유형: 587. Kernel Driver 시작 시 127(The specified procedure could not be found.) 오류 메시지 발생
12107정성태1/10/202018647.NET Framework: 877. C# - 프로세스의 모든 핸들을 열람 - 두 번째 이야기
12106정성태1/8/202019659VC++: 136. C++ - OSR Driver Loader와 같은 Legacy 커널 드라이버 설치 프로그램 제작 [1]
12105정성태1/8/202018176디버깅 기술: 153. C# - PEB를 조작해 로드된 DLL을 숨기는 방법
12104정성태1/7/202019408DDK: 9. 커널 메모리를 읽고 쓰는 NT Legacy driver와 C# 클라이언트 프로그램 [4]
12103정성태1/7/202022529DDK: 8. Visual Studio 2019 + WDK Legacy Driver 제작- Hello World 예제 [1]파일 다운로드2
12102정성태1/6/202018835디버깅 기술: 152. User 권한(Ring 3)의 프로그램에서 _ETHREAD 주소(및 커널 메모리를 읽을 수 있다면 _EPROCESS 주소) 구하는 방법
12101정성태1/5/202019167.NET Framework: 876. C# - PEB(Process Environment Block)를 통해 로드된 모듈 목록 열람
12100정성태1/3/202016608.NET Framework: 875. .NET 3.5 이하에서 IntPtr.Add 사용
12099정성태1/3/202019465디버깅 기술: 151. Windows 10 - Process Explorer로 확인한 Handle 정보를 windbg에서 조회 [1]
12098정성태1/2/202019255.NET Framework: 874. C# - 커널 구조체의 Offset 값을 하드 코딩하지 않고 사용하는 방법 [3]
12097정성태1/2/202017352디버깅 기술: 150. windbg - Wow64, x86, x64에서의 커널 구조체(예: TEB) 구조체 확인
12096정성태12/30/201919973디버깅 기술: 149. C# - DbgEng.dll을 이용한 간단한 디버거 제작 [1]
12095정성태12/27/201921706VC++: 135. C++ - string_view의 동작 방식
12094정성태12/26/201919385.NET Framework: 873. C# - 코드를 통해 PDB 심벌 파일 다운로드 방법
12093정성태12/26/201918970.NET Framework: 872. C# - 로딩된 Native DLL의 export 함수 목록 출력파일 다운로드1
12092정성태12/25/201917686디버깅 기술: 148. cdb.exe를 이용해 (ntdll.dll 등에 정의된) 커널 구조체 출력하는 방법
12091정성태12/25/201920027디버깅 기술: 147. pdb 파일을 다운로드하기 위한 symchk.exe 실행에 필요한 최소 파일 [1]
12090정성태12/24/201920121.NET Framework: 871. .NET AnyCPU로 빌드된 PE 헤더의 로딩 전/후 차이점 [1]파일 다운로드1
12089정성태12/23/201919074디버깅 기술: 146. gflags와 _CrtIsMemoryBlock을 이용한 Heap 메모리 손상 여부 체크
12088정성태12/23/201918023Linux: 28. Linux - 윈도우의 "Run as different user" 기능을 shell에서 실행하는 방법
12087정성태12/21/201918542디버깅 기술: 145. windbg/sos - Dictionary의 entries 배열 내용을 모두 덤프하는 방법 (do_hashtable.py) [1]
12086정성태12/20/201921072디버깅 기술: 144. windbg - Marshal.FreeHGlobal에서 발생한 덤프 분석 사례
... 61  62  63  64  65  66  67  68  69  70  71  72  [73]  74  75  ...