RDP 로그인 에러 - This could be due to CredSSP encryption oracle remediation.
특정 VM에 RDP 로그인이 안 되는데, 해당 서버가 Windows Server 2012 이상의 경우 다음과 같이 에러 메시지가 나오는 반면,
An authentication error has occurred.
The function requested is not supported
Remote computer: 192.168.100.50
This could be due to CredSSP encryption oracle remediation.
For more information, see https://go.microsoft.com/fwlink/?linkid=866660
Windows Server 2008 R2에서는 RDP 접속은 되지만 "The user name or password is incorrect"라고 뜨며 이후 RDP 로그인 화면상으로는 올바른 계정을 입력해도 무조건 틀리다고 나옵니다. 대신 VM을 Hyper-V의 콘솔 화면으로 들어가면 정상적으로 로그인이 됩니다.
원인은 2018년 3월의 보안 패치로 인한 것인데 다음의 글에 그 내용과 해법을 잘 소개하고 있습니다.
Unable to RDP to Virtual Machine: CredSSP Encryption Oracle Remediation
; https://blogs.technet.microsoft.com/mckittrick/unable-to-rdp-to-virtual-machine-credssp-encryption-oracle-remediation/
정리하면, 해당 패치가 클라이언트에만 되고 RDP 대상의 서버는 하지 않았기 때문에 발생한 것입니다. 따라서 서버에도 되면 이후에 문제가 없이 잘 접속이 될 텐데, 문제는 그 VM의 경우 clean 설치 용으로 만든 테스트 서버라서 패치를 일부러 안 하도록 설정된 것이라는 점입니다.
이런 경우, 접속하려는 PC 측에서 (보안 위협을 감수하고) "Encryption Oracle Remediation" 설정을 꺼야만 합니다. 방법은, 관리자 권한의 cmd.exe를 실행시키고 다음의 명령어를 실행해 주면 됩니다.
REG ADD HKLM\Software\Microsoft\Windows\CurrentVersion\Policies\System\CredSSP\Parameters\ /v AllowEncryptionOracle /t REG_DWORD /d 2
이후, 곧바로 부팅 없이 RDP 접속이 잘 됩니다.
[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]