windbg + 닷넷 디버깅 (2) - null 체크 패턴
setnz와 setne는 같은 역할을 하는 명령어입니다.
setne == Set if not equal
SETNZ == Set if not zero
단지, .NET JIT 컴파일러의 특성이겠지만 닷넷 응용 프로그램을 disassembly 창에서 보면 setnz보다는 setne 명령어를 더 자주 볼 수 있습니다.
2개의 명령어 모두 같음(equal)을 판별하기 위해 FLAG 레지스터의 Zero 플래그를 확인하는데, 대개의 경우 cmp 명령어 등이 선행되어 2개의 값을 비교해 Zero 플래그를 변경시킨 이후 setne/setnz 명령어가 나오는 패턴을 따릅니다.
예를 들어, 닷넷에서 null 비교하는 구문을 보면,
if (myvar == null)
{
}
disassembly 창에서 이런 식으로 cmp 명령어가 등장합니다.
cmp dword ptr [ebp-4Ch],0 // [ebp-4ch] == myvar
// 32비트인 경우, 지역 변수는 대개 [ebp-offset] 값 형식입니다.
즉, [ebp-4ch] 주소가 가리키는 값에서 0을 빼서 0 이 나왔다면, cmp 명령어는 ZERO 플래그를 SET 시킵니다. (cmp는 결과 값을 저장하지 않을 뿐 sub 명령어와 역할이 유사합니다.)
따라서, 이어서 나오는 setne 명령어는,
setne al
(cmp 명령어로 변경된) zero flag == 1이면 'equal'로 판정하고 al 레지스터에 0을 설정하지만, zero flag == 0이면 "if not equal"이므로 al 레지스터의 값에 1을 설정합니다.
setne 명령어가 1바이트 레지스터 값을 조정하므로, 대개의 경우 (32비트인 경우) 4바이트로 확장하는 movzx 명령어가 이어서 나오게 됩니다.
movzx eax,al
예를 들어, setne 하기 전에 eax == 02CB503C 값이었다면, setne로 (값이 같지 않은 경우) 02cb5001로 바뀌게 되고, 이어서 "movzx eax,al"로 인해 eax == 00000001로 최종 완성됩니다.
[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]