SSL 서버 자격 증명을 만드는 동안 심각한 오류가 발생했습니다.
이번에, TFS를 새로 설치하는 일이 있었습니다. 처음 설치했던 당시부터 익숙치 않았던 시스템이었던데다, Database 자체의 내용을 이거저거 만져 보기까지 했더니 어느 순간 ^^; 감당할 수 없는 상태까지 와버려서, 가뿐한(!) 마음으로 새로 설치를 했습니다.
설치 완료 후, 인터넷 접근을 할 수 있도록 설정하고 HTTPS 통신을 가능하게 하도록 인증서를 웹 사이트에 적용을 했습니다.
문제는, 여기서부터입니다. 그냥 HTTP 통신을 했을 때는 정상적으로 동작이 되었는데, HTTPS 통신을 하면서부터는 "https://...:8070/services/v1.0/ServerStatus.asmx"로 접속을 하면 다음과 같은 화면만 나왔습니다.
차라리 HTTP 통신이라면 네트워크 패킷 캡쳐라도 해서 알아볼 텐데, HTTPS 특성상 그것도 못하니 답답하기만 했습니다.
도대체 무엇이 잘못일까???
혹시나 요청을 보낼 때마다 이벤트 로그에 오류가 발생할까 싶어서 확인해 보았지만 요청에 대한 오류는 전혀 기록되지 않았습니다. 더욱 심각한 것은, 웹 브라우저에서의 요청에 대해 w3wp.exe조차도 실행이 안된다는 것이었습니다.
그래도,,, 찾아볼 만한 곳은, 이벤트 로그뿐이어서 "System" 범주의 내용을 확인해 보았습니다. 오호... 그랬더니 시스템 부팅 초기에 아래와 같은 내용으로 이벤트 로그가 남겨져 있는 것이 눈에 띄었습니다.
이벤트 형식: 오류
이벤트 원본: Schannel
이벤트 범주: 없음
이벤트 ID: 36871
날짜: 2007-07-05
시간: 오후 10:48:05
사용자: N/A
컴퓨터: TESTTFS
설명:
SSL 서버 자격 증명을 만드는 동안 심각한 오류가 발생했습니다.
(A fatal error occurred while creating an SSL server credential)
자세한 정보는 http://go.microsoft.com/fwlink/events.asp에 있는 도움말 및 지원 센터를 참조하십시오.
당연히 웹 검색을 해보았지요.
그런데, 워낙 단서 자체가 없다 보니 어떤 검색 결과를 적용해야 할지 판단이 안 섰습니다. TFS와 연관되어서는 검색 결과도 거의 없었습니다.
몇 개의 포스트를 읽어보는 중에, 다음과 같은 툴을 소개하는 글을 발견하게 되었습니다.
SSL Diagnostics Version 1.1 (x86)
; http://www.microsoft.com/downloads/details.aspx?FamilyID=cabea1d0-5a10-41bc-83d4-06c814265282&DisplayLang=en
와... 뭔가 발견한 것 같습니다. ^^
곧바로 다운로드하고, 실행해 보았더니 다음과 같은 결과가 나왔습니다.
"
!#AcquireCredentialsHandle failed with error -2146893043(0x8009030d)
Possible cause of warning: Server process cannot access private key.
How to fix: Try assigning a new certificate.
However, this error may be related to a system error,
such as a bad DLL file or cryptographic problem.
For more information,
see
http://msdn.microsoft.com/library/default.asp?url=/library/en-us/security/security/acquirecredentialshandle.asp
"
링크는 별 도움이 안되더군요. 어쨌든 오류 메시지상으로는 인증서의 "private key" 파일을 접근할 수 없어서 나온다는 첫 번째 단서가 나왔습니다.
그래서 해당 개인키 파일의 보안을 확인하기 위해, 일단 해당 개인키의 경로를 먼저 알아야 했기 때문에 이를 위해 "
Windows SDK"에 포함되어 있는 "findprivatekey.exe"를 사용해 보았습니다.
C:\>findprivatekey My LocalMachine -n "CN=www.sysnet.pe.kr"
Private key directory:
C:\Documents and Settings\All Users\Application Data\Microsoft\Crypto\RSA\MachineKeys
Private key file name:
ad9d2114975ec715c8d3e24c95d971b7_c9ceb079-cdb8-4d53-81fe-319957a6fc3b
탐색기로 열심히 찾아가서, 해당 파일의 속성창을 열어 보안 설정을 확인해 보았는데, ... 보안은 적절하게 설정되어 있었습니다. 휴... 희망이 날아가는 군요.
그럼, 이제 남은 것은 "However, this error may be related to a system error, such as a bad DLL file or cryptographic problem."라는 2번째 단서인데요.
이걸 곰곰이 보면서,,, 생각을 좀 해보았습니다.(솔직히, 생각뿐이 할 것이 없었습니다. 이 외에 시도해 볼 만한 것이 없었기 때문에.)
원인이 될만한 것이 하나 떠오르더군요. 제가 최근에 "웹 서버"를 Longhorn Beta3로 교체하면서 인증서 서버를 함께 beta3 버전으로 교체를 했습니다. 즉 해당 인증서가 Longhorn에서 발급된 인증서였는데... 그러고 보니 Vista/Longhorn 계열의 암호화 라이브러리가 이전 버전에 비해서 크게 개선된 부분을 사용한 것이 아닌가... 하는 심증만 있을 뿐. ^^; 물증은 없었습니다.
어쨌든. 오늘 오류 파악은 여기까지.
더 이상의 원인 파악은 아직 베타 버전인 롱혼임을 감안하면 그다지 영양가 있을 것 같지 않기 때문에 인증서 서비스를 Windows 2003으로 다운그레이드 하는 것으로 마무리 지었습니다.
[이 토픽에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]