COM 개체 등록시 0x8002801C 오류가 발생한다면?
재미있는 문제가 발생했군요. ^^
일반적으로 COM 개체를 regsvr32.exe를 이용해 등록하면 관리자 권한이 없는 경우 ACCESS DENIED(0x80070005)가 발생합니다. 그런데, 희한하게도 0x8002801C 오류가 발생하는 상황이 있습니다. 0x8002801C 오류는 "Error accessing the OLE registry."라는 의미로 "WinError.h" 헤더 파일에 다음과 같이 정의되어 있습니다.
//
// MessageId: TYPE_E_REGISTRYACCESS
//
// MessageText:
//
// Error accessing the OLE registry.
//
#define TYPE_E_REGISTRYACCESS _HRESULT_TYPEDEF_(0x8002801CL)
사실, 결국 레지스트리 접근을 못했다는 것으로 0x80070005와 마찬가지로 권한 문제에 속합니다. 그런데 도대체 어떤 상황에서 0x8002801C 예외가 발생하는 것일까요?
그래서, 세밀하게 한번 테스트를 해봤습니다. ^^
우선,
비관리자 권한으로 regsvr32.exe로 COM 개체를 등록 시도하면 다음과 같은 오류가 발생합니다.
The module "..." was loaded but the call to DllRegisterServer failed with error code 0x80070005.
이때
procmon.exe를 이용해 레지스트리 부분을 검사해 보면 다음의 경로를 접근할 수 없어 발생하는 것임을 알 수 있습니다.
HKCR\AppID
2개의 HKCR\[ProgID]
우선, "HKEY_CLASSES_ROOT\AppID" 키의 경우 "Users" 그룹의 권한을 "Full Control"로 주면 해결됩니다. 그 외 나머지 "2개의 HKCR\[ProgID]"는 "HKEY_CLASSES_ROOT" 자체에 보안을 주면 이후로 세밀한 보안 설정을 할 수 없게 되는데요. 이를 위해 피하기 위해 해당 [ProgID] 값의 레지스트리 키를 수작업으로 생성해 그 Key의 권한에 Users - Full Control을 부여하는 것으로 넘어갈 수 있습니다.
그렇게 조치를 취하고 다시 regsvr32.exe로 등록하면 이번에는 HKCR\CLSID\[...GUID...] 위치에서 ACCESS DENIED 오류가 발생합니다. "HKEY_CLASSES_ROOT\CLSID" 경로는 사실 "HKEY_LOCAL_MACHINE\Software\Classes\CLSID"와 "HKEY_CURRENT_USER\Software\Classes\CLSID"가 합쳐진 것으로 특별한 "View"라고 보시면 됩니다. 따라서 "HKCR\CLSID" 경로에 권한을 주려면 그 2개의 위치 모두 Users 그룹에 Full Control을 각각 설정해야 합니다.
HKEY_LOCAL_MACHINE\Software\Classes\CLSID
HKEY_CURRENT_USER\Software\Classes\CLSID
여기까지 완료하고 다시 regsvr32.exe로 등록하면 이제부터는 "ACCESS DENIED" 발생하는 레지스트리 위치가 TypeLib로 바뀝니다.
HKEY_CLASSES_ROOT\TypeLib\[...GUID...]\1.0\0\win64
그리고, 이때부터 비로소 에러 코드가 0x8002801c로 바뀝니다. 그렇습니다. regsvr32.exe로 COM 개체 등록시 0x8002801c 오류가 발생한다는 것은 AppID, CLSID에 모두 등록을 완료했지만 TypeLib 키를 등록할 수 없었기 때문에 벌어지는 상황인 것입니다.
자, 그럼 HKEY_CLASSES_ROOT\TypeLib의 권한도 Full Control로 줍니다. 그래도 regsvr32.exe로 등록하면 Interface 레지스트리 키 등록에서 0x8002801c 오류가 발생합니다.
HKEY_CLASSES_ROOT\Interface\[...GUID...]\ProxyStubClsid32
마지막으로, HKCR\Interface에도 Full Control을 주면 이후부터는 regsvr32.exe가 정상적으로 동작합니다.
정리해 보면, 0x8002801c 오류가 발생한 경우 다음의 2개에 대한 레지스트리 키 보안을 살펴보시면 됩니다. 즉, 관리자에 대해 이들 키에 대한 Full Control 권한이 있어야 합니다.
HKEY_CLASSES_ROOT\TypeLib
HKEY_CLASSES_ROOT\Interface
어디... 코드로도 확인을 해볼까요? ^^ (ATL COM 개체 소스 코드 기준으로) 오류 메시지에 따라 regsvr32.exe가 호출하는 것은 "DllRegisterServer" 입니다.
STDAPI DllRegisterServer(void)
{
HRESULT hr = _AtlModule.DllRegisterServer();
// ... [생략]...
return hr;
}
보시는 바와 같이 DllRegisterServer는 다시 CAtlDllModuleT::DllRegisterServer 함수로 이어지고,
HRESULT DllRegisterServer(
_In_ BOOL bRegTypeLib = TRUE) throw()
{
// ... [생략]...
HRESULT hr = pT->RegisterAppId(); // HKCR\AppId 등록
if (SUCCEEDED(hr))
hr = pT->RegisterServer(bRegTypeLib); // CLSID/TypeLib 등록
SetThreadLocale(lcid);
return hr;
}
RegisterServer를 거쳐 계속 이런 식으로 가다 보면 AtlComModuleRegisterServer에서 실제 등록 코드를 볼 수 있습니다.
ATLINLINE ATLAPIINL AtlComModuleRegisterServer(
_Inout_ _ATL_COM_MODULE* pComModule,
_In_ BOOL bRegTypeLib,
_In_opt_ const CLSID* pCLSID)
{
// ... [생략]...
for (_ATL_OBJMAP_ENTRY_EX** ppEntry = pComModule->m_ppAutoObjMapFirst; ppEntry < pComModule->m_ppAutoObjMapLast; ppEntry++)
{
// ... [생략]...
hr = pEntry->pfnUpdateRegistry(TRUE); // CLSID 등록
if (FAILED(hr))
break;
hr = AtlRegisterClassCategoriesHelper( *pEntry->pclsid,
pEntry->pfnGetCategoryMap(), TRUE ); // Category 등록
if (FAILED(hr))
break;
}
if (SUCCEEDED(hr) && bRegTypeLib)
{
ATLASSUME(pComModule->m_hInstTypeLib != NULL);
hr = AtlRegisterTypeLib(pComModule->m_hInstTypeLib, 0); // TypeLib 등록
}
return hr;
}
여기서 마지막 라인 쯤에 AtlRegisterTypeLib 함수는 최종적으로 OleAut32.dll이 제공하는
RegisterTypeLib를 호출하는데,
ATLINLINE ATLAPIINL AtlRegisterTypeLib(
_In_ HINSTANCE hInstTypeLib,
_In_opt_z_ LPCOLESTR lpszIndex)
{
CComBSTR bstrPath;
CComPtr<ITypeLib> pTypeLib;
HRESULT hr = AtlLoadTypeLib(hInstTypeLib, lpszIndex, &bstrPath, &pTypeLib);
if (SUCCEEDED(hr))
{
// ... [생략]...
if( NULL == pfnRegisterTypeLib )
{
pfnRegisterTypeLib = (PFNREGISTERTYPELIB)&RegisterTypeLib;
}
hr = pfnRegisterTypeLib(pTypeLib, bstrPath, szDir);
}
return hr;
}
결국 RegisterTypeLib 함수의 반환 값이 바로 0x8002801c인 것입니다.
하지만 현실적으로 봤을 때, "관리자 권한" 하에서 CLSID 까지 등록에 성공하고 TypeLib/Interface 레지스트리 단계에서 실패하는 경우는 일반적인 상황에서 거의 없습니다.
실제로, 제가 맞닥뜨렸던 0x8002801C 오류의 경우 해당 고객사에 설치된 "안티 바이러스" 프로그램이 문제였습니다. 그 프로그램이 COM 개체가 (다른 경로는 모두 허용했던 반면) HKCR\Interface 경로에 등록되는 것을 막아서 발생했습니다. (경험상, 희한한 문제의 원인은 안티 바이러스 프로그램들과의 충돌인 경우가 많습니다. ^^;)
[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]