Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

DLL Surrogate를 이용한 Out-of-process COM 개체에서의 CoInitializeSecurity 문제

지난 글에서, dllhost.exe에 호스팅한 C# COM 개체를 만들어 봤는데요,

C# - DLL Surrogate를 이용한 Out-of-process COM 개체 제작
; https://www.sysnet.pe.kr/2/0/12668

그렇다면 EXE 프로세스 경계가 달라지므로 호출 측의 CoInitializeSecurity 제약을,

Wslhub.Sdk 사용으로 알아보는 CoInitializeSecurity 사용 제약
; https://www.sysnet.pe.kr/2/0/12665

마찬가지로 극복할 수 있을까요? 테스트를 위해 "COM+ 서버 응용 프로그램을 이용해 CoInitializeSecurity 제약 해결" 글에서 사용한 (Serializable 특성이 DistroRegistryInfo에 적용된) NativeMethods.cs, Wsl.cs 소스 코드를 가져와 DLL Surrogate 예제였던 ClassLibrary1에 추가합니다.

그럼 Class1.cs의 코드를 다음과 같이 구현할 수 있습니다.

using System;
using System.Diagnostics;
using System.Runtime.InteropServices;
using System.Linq;
using WslSdk;

namespace ClassLibrary1
{
    [ComVisible(true)]
    [Guid("62A4A0A9-8791-444B-ABF7-8BFD23DFF0FB")]
    [InterfaceType(ComInterfaceType.InterfaceIsDual)]
    public interface ITest
    {
        long GetPTIDValue();

        DistroRegistryInfo GetDefaultDistro();
        string[] GetDistroList();
        string RunWslCommand(string distroName, string commandLine);
    }

    [ComVisible(true)]
    [Guid("296A7E30-8592-4EE5-8FE1-E9DAF86D146E")]
    [ClassInterface(ClassInterfaceType.AutoDual)]
    public class CTest : ITest
    {
        public long GetPTIDValue()
        {
            long pid = Process.GetCurrentProcess().Id;
#pragma warning disable CS0618 // Type or member is obsolete
            long tid = AppDomain.GetCurrentThreadId();
#pragma warning restore CS0618 // Type or member is obsolete

            return tid | (pid << 32);
        }

        public DistroRegistryInfo GetDefaultDistro()
        {
            return Wsl.GetDefaultDistro();
        }

        public string[] GetDistroList()
        {
            return Wsl.GetDistroListFromRegistry().Select(x => x.DistroName).ToArray();
        }

        public string RunWslCommand(string distroName, string commandLine)
        {
            string result = null;

            int initResult = NativeMethods.CoInitializeSecurity(
                IntPtr.Zero,
                (-1),
                IntPtr.Zero,
                IntPtr.Zero,
                NativeMethods.RpcAuthnLevel.Default,
                NativeMethods.RpcImpLevel.Impersonate,
                IntPtr.Zero,
                NativeMethods.EoAuthnCap.StaticCloaking,
                IntPtr.Zero);

            try
            {
                result = Wsl.RunWslCommand(distroName, commandLine);
            }
            catch (Exception e)
            {
                result = $"{initResult} - {Environment.UserDomainName}\\{Environment.UserName}: " +  e.ToString();
            }

            return result;
        }
    }
}

그럼, ConsoleApp1 측에서는 다음과 같이 사용해 줄 수 있는데,

// Dll surrogated COM
{
    IntPtr pUnknown = IntPtr.Zero;
    int hr = CoCreateInstance(clsid, null, CLSCTX.LOCAL_SERVER, IID_IUnknown, ref pUnknown);
    ITest testObj = null;

    if (hr == 0)
    {
        try
        {
            testObj = Marshal.GetTypedObjectForIUnknown(pUnknown, typeof(ITest)) as ITest;
            long result = testObj.GetPTIDValue();
            Console.WriteLine($"Surrogated COM: pid = {result &gt;&gt; 32}, tid = {result &amp; UInt32.MaxValue}");

            var distro = testObj.GetDefaultDistro();;
            if (distro == null)
            {
                Console.WriteLine("No WSL default distro");
                return;
            }

            Console.WriteLine(testObj.RunWslCommand(distro.DistroName, "cat /etc/passwd"));
        }
        finally
        {
            if (testObj != null)
            {
                Marshal.ReleaseComObject(testObj);
            }

            if (pUnknown != null)
            {
                Marshal.Release(pUnknown);
            }
        }
    }
}

위의 소스 코드를 실행하면 GetDefaultDistro 호출은 (레지스트리로부터 값을 읽어오므로) 정상 동작하지만 RunWslCommand 단계에서 다음과 같은 예외가 발생할 것입니다.

-2147417831 - TESTPC\testusr: System.Exception: Ubuntu20.04 is not registered distro.
   at WslSdk.Wsl.RunWslCommand(String distroName, String commandLine, Int32 bufferLength)
   at ClassLibrary1.CTest.RunWslCommand(String distroName, String commandLine)

보다시피 NativeMethods.CoInitializeSecurity 메서드의 반환 값이 RPC_E_TOO_LATE(0x80010119)로 나오는데, 이것은 곧 DLL Surrogate의 경우 dllhost.exe 수준에서 이미 CoInitializeSecurity가 호출된다는 것입니다. 따라서 아쉽지만, DLL Surrogate 상태에서의 Wsl 관련 API 호출은 정상 동작하지 않습니다.

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




이것을 극복하려면, 아마도 시스템이 제공하는 DLL Surrogate, 즉 dllhost.exe를 사용하지 않고 사용자 정의한 Surrogate용 EXE를 제공하면 될 것입니다. 이에 대해서는 다음의 문서에서 찾을 수 있는데,

Writing a Custom Surrogate
; https://docs.microsoft.com/en-us/windows/win32/com/writing-a-custom-surrogate

사실 복잡도를 낮추려고 DLL Surrogate를 사용하려는 것인데, 위와 같이 사용자 정의 Surrogate까지 만들 정도면 차라리 (out-of-process) Local Server COM 개체를 만드는 것이 더 낫습니다. 저는 더 이상 구현을 하지 않겠지만 ^^ 혹시 사용자 정의 Surrogate까지 구현해 CoInitializeSecurity를 완료하신 분이 계시다면 덧글 부탁드리겠습니다.




한 가지 더해 DLL Surrogate 관련해서 다음의 문서를 보면,

AppID Key
; https://docs.microsoft.com/en-us/windows/win32/com/appid-key

dllhost.exe 수준의 CoInitializeSecurity 상태를 AppID 키 하위의 여러 레지스트리 값을 이용해 설정할 수 있는 것으로 나옵니다. 그중에서 가장 중요한 것은 Impersonate인데요, 이와 관련해서는 AppIDFlags의 설명을 보면,

AppIDFlags
; https://docs.microsoft.com/en-us/windows/win32/com/appidflags

0x1 APPIDREGFLAGS_ACTIVATE_IUSERVER_INDESKTOP
0x2 APPIDREGFLAGS_SECURE_SERVER_PROCESS_SD_AND_BIND
0x4 APPIDREGFLAGS_ISSUE_ACTIVATION_RPC_AT_IDENTIFY

If the APPIDREGFLAGS_ISSUE_ACTIVATION_RPC_AT_IDENTIFY flag is not set, the COM SCM will issue object activation requests to the COM server processes using an impersonation level of RPC_C_IMP_LEVEL_IMPERSONATE.


RPC_C_IMP_LEVEL_IMPERSONATE 설정이 기본 사용되는 것으로 보입니다. 마치 COM+ 서버의 응용 프로그램에서 Security 탭으로 Impersonation Level을 설정하는 것과 같은 효과일 것으로 보이는데요, 따라서 그냥 WSL API가 호출이 되어야 하는데... 안 되는 이유를 모르겠군요. ^^; 혹시 이에 대해 아시는 분은 덧글 부탁드립니다.




참고로, 이 글의 예제에서는 DLL Surrogate로 호스팅되는 ClassLibrary1에 Wslhub.Sdk nuget 패키지를 참조하지 않고 직접 소스 코드를 추가해 구현했습니다. 만약, 패키지 참조로 실습을 해보면 이를 사용하는 ConsoleApp1의 ITest로의 형변환 코드에서,

testObj = Marshal.GetTypedObjectForIUnknown(pUnknown, typeof(ITest)) as ITest;

다음과 같은 예외가 발생합니다.

System.InvalidCastException
  HResult=0x80004002
  Message=Unable to cast object of type 'System.__ComObject' to type 'ClassLibrary1.ITest'.
  Source=mscorlib
  StackTrace:
   at System.Runtime.InteropServices.Marshal.GetTypedObjectForIUnknown(IntPtr pUnk, Type t)
   at Program.Main(String[] args)

왜냐하면 ClassLibrary1은 regasm으로 전역적으로 등록된 상태고, 그것이 참조한 Wslhub.Sdk DLL은 그렇지 않으므로 DLL Surrogate를 제공하는 COM 런타임이 해당 dll을 찾을 수 없어 예외가 발생하는 것입니다. 이것이 동작하려면 Wslhub.Sdk.dll도 gacutil 등으로 등록을 해야 하는데, 아쉽게도 해당 DLL은 strong name 서명이 되어 있지 않으므로 gac 등록이 불가능합니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]


donaricano-btn



[최초 등록일: ]
[최종 수정일: 6/14/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 쓴 사람
 




1  2  3  4  5  6  [7]  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
12700정성태7/8/2021460.NET Framework: 1074. RuntimeType의 메모리 누수? [1]
12699정성태7/8/2021343VS.NET IDE: 167. Visual Studio 디버깅 중 GC Heap 상태를 보여주는 "Show Diagnostic Tools" 메뉴 사용법
12698정성태7/7/20211185오류 유형: 732. Windows 11 업데이트 시 3% 또는 0%에서 다운로드가 멈춘 경우
12697정성태7/7/2021540개발 환경 구성: 574. Windows 11 (Insider Preview) 설치하는 방법
12696정성태7/6/2021393VC++: 146. 운영체제의 스레드 문맥 교환(Context Switch)을 유사하게 구현하는 방법파일 다운로드2
12695정성태7/3/2021386VC++: 145. C 언어의 setjmp/longjmp 기능을 Thread Context를 이용해 유사하게 구현하는 방법파일 다운로드1
12694정성태7/2/2021249Java: 24. Azure - Spring Boot 앱을 Java SE(Embedded Web Server)로 호스팅 시 로그 파일 남기는 방법
12693정성태6/30/2021282오류 유형: 731. Azure Web App Site Extension - Failed to install web app extension [...]. {1}
12692정성태6/30/2021387디버깅 기술: 180. Azure - Web App의 비정상 종료 시 남겨지는 로그 확인
12691정성태6/30/2021292개발 환경 구성: 573. 테스트 용도이지만 테스트에 적합하지 않은 Azure D1 공유(shared) 요금제
12690정성태6/28/2021471Java: 23. Azure - 자바(Java)로 만드는 Web App Service - Tomcat 호스팅
12689정성태6/25/2021437오류 유형: 730. Windows Forms 디자이너 - The class Form1 can be designed, but is not the first class in the file.
12688정성태6/24/2021753.NET Framework: 1073. C# - JSON 역/직렬화 시 리플렉션 손실을 없애는 JsonSrcGen [1]파일 다운로드1
12687정성태6/22/2021298오류 유형: 729. Invalid data: Invalid artifact, java se app service only supports .jar artifact
12686정성태6/21/2021372Java: 22. Azure - 자바(Java)로 만드는 Web App Service - Java SE (Embedded Web Server) 호스팅
12685정성태6/21/2021425Java: 21. Azure Web App Service에 배포된 Java 프로세스의 메모리 및 힙(Heap) 덤프 뜨는 방법
12684정성태6/19/2021362오류 유형: 728. Visual Studio 2022부터 DTE.get_Properties 속성 접근 시 System.MissingMethodException 예외 발생
12683정성태6/18/2021506VS.NET IDE: 166. Visual Studio 2022 - Windows Forms 프로젝트의 x86 DLL 컨트롤이 Designer에서 오류가 발생하는 문제파일 다운로드1
12682정성태6/18/2021426VS.NET IDE: 165. Visual Studio 2022를 위한 Extension 마이그레이션
12681정성태6/18/2021351오류 유형: 727. .NET 2.0 ~ 3.5 + x64 환경에서 System.EnterpriseServices 참조 시 CS8012 경고
12680정성태6/18/2021396오류 유형: 726. python2.7.exe 실행 시 0xc000007b 오류
12679정성태6/18/2021407COM 개체 관련: 23. CoInitializeSecurity의 전역 설정을 재정의하는 CoSetProxyBlanket 함수 사용법파일 다운로드1
12678정성태6/17/2021423.NET Framework: 1072. C# - CoCreateInstance 관련 Inteop 오류 정리파일 다운로드1
12677정성태6/17/2021418VC++: 144. 역공학을 통한 lxssmanager.dll의 ILxssSession 사용법 분석파일 다운로드1
12676정성태6/16/2021424VC++: 143. ionescu007/lxss github repo에 공개된 lxssmanager.dll의 CLSID_LxssUserSession/IID_ILxssSession 사용법파일 다운로드1
12675정성태6/16/2021408Java: 20. maven package 명령어 결과물로 (war가 아닌) jar 생성 방법
1  2  3  4  5  6  [7]  8  9  10  11  12  13  14  15  ...