음수의 음수는 여전히 음수가 되는 수(절대값이 음수인 수)
저도 잊고 지내던 코드에서, 어느 날 버그 리포트가 들어왔습니다. 오늘은 그 버그와 관련된 이야기를 해보겠습니다. ^^
재현은 다음과 같이 간단하게 할 수 있습니다.
// Visual C++
#include "stdafx.h"
int main()
{
char n = 0x80; // 0x80 == -128
printf("%d\n", n);
if (n < 0)
{
// n = abs(n);로 해도 마찬가지
// n = n * -1;로 해도 마찬가지
n = -n;
printf("Passed\n");
}
printf("%d\n", n);
return 0;
}
출력 결과는 다음과 같습니다.
-128
Passed
-128
음수인 경우 양수로 바꾸려고 했는데 그 결과가 다시 음수가 되었습니다. 원인은 간단합니다.
2의 보수 표현에서 1바이트가 표현 가능한 수의 범위는 -128 ~ 127이기 때문에 -128에 대한 양수 표현이 불가능한 것입니다. 실제로 0x80에 대해 2의 보수를 어느 방향으로 적용해도 같은 숫자가 나오는 것을 확인할 수 있습니다.
n == 0x80 == 1000_0000
1000_0000
- 1
---------
0111_1111
==> 1의 보수
1000_0000
1000_0000
==> 1의 보수
0111_1111
+ 1
---------
1000_0000
이 문제를 해결하려면 비트 수를 늘려야만 합니다.
#include "stdafx.h"
int main()
{
char n = 0x80;
short shortN = n;
printf("%d\n", shortN);
if (shortN < 0)
{
shortN = -shortN;
printf("Passed\n");
}
printf("%d\n", shortN);
}
당연하지만, 이 현상은 숫자형 타입의 바이트 범위(char, short, int, __int64)마다 나타나게 됩니다.
-128
Passed
-128
-32768
Passed
-32768
-2147483648
Passed
-2147483648
-9223372036854775808
Passed
-9223372036854775808
참고로 C#의 경우에도 역시 2의 보수를 사용하므로 마찬가지 문제를 갖습니다. (즉, 특정 언어만의 문제가 아니라 2의 보수 표현을 채택한 모든 언어에서 발생할 수 있는 현상입니다.)
{
int n = int.MinValue;
Console.WriteLine(n);
if (n < 0)
{
n = -n;
Console.WriteLine("Passed");
}
Console.WriteLine(n);
}
/*
출력 결과:
-2147483648
Passed
-2147483648
*/
대신 Math.Abs를 이용하는 경우
Overflow 예외를 발생시켜 줍니다.
int n = int.MinValue;
n = Math.Abs(n); // Unhandled Exception: System.OverflowException: Negating the minimum value of a twos complement number is invalid.
또한, 명시적으로 checked 영역으로 지정하면 마찬가지로 System.OverflowException 예외가 발생하지만 약간 메시지의 내용이 다릅니다.
checked
{
int n = int.MinValue;
n = -n; // Unhandled Exception: System.OverflowException: Arithmetic operation resulted in an overflow.
}
재미있는 것은, 예전에 다음과 같은 글을 쓴 적이 있는데요.
C++ 숫자형 값이 범위를 벗어나는 경우의 출력 사례 모음
; https://www.sysnet.pe.kr/2/0/1660
위의 질문에서 "의문 1"에 대한 답변을 했음에도 불구하고 ^^; 저 역시 이와 관련된 버그를 낸 것입니다. 다시 한번 경각심을 갖는 의미에서, 이 글을 기록으로 남깁니다. ^^
[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]