보호 모드로 응용 프로그램 디버깅하는 방법
이번
"IE 8 세미나" 때 잠시 보여드렸던 방법인데요. 의외로, 보호 모드를 디버깅하는 방법에 대한 팁이 공개된 것이 없어서 이거저거 해보다가 팁 성격으로 알게 된 것이라 이렇게 글로 남겨놓기 위해서 적어 봅니다. (보호 모드라는 말이 엄밀히 IE의 Low 신뢰 등급 실행 상태를 지칭하지만, 여기서는 그냥 일반적인 Low 신뢰 등급의 프로세스를 보호 모드라고 함께 사용합니다.)
우선, VS.NET에서 제공되는 디버깅의 경우 제한이 있다면 디버깅 대상의 프로세스가 자식 프로세스를 생성(spawn)하는 경우에 그에 대한 디버깅을 지원하지 않습니다. 사실... 굳이 이렇게 제한을 둔 이유가 궁금합니다. WinDBG 같은 경우에는 자식 프로세스에 대해 디버깅하는 옵션을 제공해 주고 있지요. 심지어 VS.NET 스스로도 "Web Browser Debugger"를 두어서 자식 프로세스에 대한 디버깅을 지원해 주고 있는데... 왜? iexplore.exe로만 제한을 했을까요?
Orcas - Web Browser Debugger를 이용한 보호 모드의 ActiveX 컨트롤 디버깅
; https://www.sysnet.pe.kr/2/0/500
아무튼. ^^
이번 글에서는 일반 MFC 응용 프로그램을 예로 들어서, 해당 MFC 응용 프로그램을 "Low" 신뢰 등급에서 실행되도록 해서 디버깅을 해보겠습니다.
이를 해결하기 위해서는 2가지 팁이 섞여야 합니다.
첫 번째는, 대상 프로세스를 명시적으로 "보호 모드"로 실행해주는 별도의 프로세스가 필요하고,
두 번째는, 2차 프로세스를 디버깅하는 방법을 적용해야 한다는 것입니다.
우선, 첫 번째 사항 먼저 해결하자면. 직접 제작하셔도 되지만 "
psexec.exe"와 같은 프로그램을 사용하셔도 됩니다. 이것을 이용해서 다음과 같이 디버거 환경을 구성해 주면 대상 프로세스는 무조건 보호 모드로 실행됩니다.
[그림 1: psexec.exe를 이용한 보호 모드 프로세스 생성 옵션]
"
Command: D:\Tools\SysInternals\psexec.exe
Command Arguments: -l $(TargetPath)
"
"F5" 키를 눌러서 디버깅을 시작하고 프로세스 탐색기로 확인해 보면, 성공적으로 보호 모드가 적용된 것을 볼 수 있습니다.
[그림 2: 관리자 권한으로 실행된 devenv.exe 하위에서 Low 신뢰 등급으로 실행된 mfc_low_debug.exe]
물론, 지금의 "F5 디버깅"은 실제로 환경만 구성되었을 뿐, BP(Break Point)가 비활성화되어 있는 것을 확인할 수 있습니다. 왜냐하면, 누차 말씀드렸듯이 VS.NET은 2차 프로세스에 대해서 디버깅을 지원하지 않기 때문입니다.
여기서 두 번째 팁이 적용되어야 합니다. 2차 프로세스를 디버깅해야 하는데, 이를 위해서는 어쩔 수 없이 "Attach to Process..."와 동일한 동작을 해야 합니다. 물론, 이 작업을 수작업으로도 할 수 있지만, 매크로를 이용하는 것도 좋은 방법입니다. 그리고 그런 매크로를 이미 다른 분들이 공개해 놓았지요.
Attaching to a child process automatically in Visual Studio during Debugging
; http://stackoverflow.com/questions/422768/attaching-to-a-child-process-automatically-in-visual-studio-during-debugging
Public Module DTEHelper
Public Sub RunAndAttachTo()
DTE.Solution.SolutionBuild.Build(True)
DTE.Solution.SolutionBuild.Debug()
Dim trd As System.Threading.Thread = _
New System.Threading.Thread(AddressOf AttachTo)
trd.Start()
End Sub
Public Sub AttachTo()
Dim i As Integer = 0
Do Until i = 50
i = i + 1
Try
For Each proc In DTE.Debugger.LocalProcesses
If (proc.Name.IndexOf("mfc_low_debug.exe") <> -1) Then
proc.Attach()
Exit For
End If
Next
Catch e As Exception
End Try
Threading.Thread.Sleep(100)
Loop
End Sub
End Module
매크로를 보시면 ... 좀 무지막지한 방법을 사용하고 있지요. ^^; 100ms 단위로 50번 루프를 돌면서 새로 생성된 프로세스 이름이 대상 프로세스 이름인 경우에 디버거를 연결하고 있습니다. 이 때문에 프로그램 초기의 Main 함수 같은 경우에는 BP가 안 잡힐 수 있습니다. (그런 경우에는 DebugBreak 같은 API를 사용해야겠지요.)
매크로 실행이 불편하니, 아래와 같이 별도로 명령 아이콘을 지정하는 것도 좋은 방법이겠고,
[그림 3: RunAndAttachTo 매크로 실행 명령어 아이콘 생성]
나아가서, 거의 이 프로그램만을 다루는 상황이라면 "F5" 키에 아예 매크로 지정을 하는 것도 생각해 볼 수 있습니다.
[그림 4: F5 단축키에 RunAndAttachTo 매크로 실행 지정]
[이 토픽에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]