Microsoft MVP성태의 닷넷 이야기
글쓴 사람
홈페이지
첨부 파일
 

음수의 음수는 여전히 음수가 되는 수(절대값이 음수인 수)

저도 잊고 지내던 코드에서, 어느날 버그 리포트가 들어왔습니다. 오늘은 그 버그와 관련된 이야기를 해보겠습니다. ^^

재현은 다음과 같이 간단하게 할 수 있습니다.

// Visual C++
#include "stdafx.h"

int main()
{
    char n = 0x80; // 0x80 == -128
    printf("%d\n", n);

    if (n < 0)
    {
        // n = abs(n);로 해도 마찬가지
        // n = n * -1;로 해도 마찬가지
        n = -n; 
        printf("Passed\n");
    }

    printf("%d\n", n);
    return 0;
}

출력 결과는 다음과 같습니다.

-128
Passed
-128

음수인 경우 양수로 바꾸려고 했는데 그 결과가 다시 음수가 되었습니다. 원인은 간단합니다. 2의 보수 표현에서 1바이트가 표현 가능한 수의 범위는 -128 ~ 127이기 때문에 -128에 대한 양수 표현이 불가능한 것입니다. 실제로 0x80에 대해 2의 보수를 어느 방향으로 적용해도 같은 숫자가 나오는 것을 확인할 수 있습니다.

n == 0x80 == 1000_0000

1000_0000
-       1
---------
0111_1111
==> 1의 보수
1000_0000

1000_0000
==> 1의 보수
0111_1111
+       1
---------
1000_0000

이 문제를 해결하려면 비트 수를 늘려야만 합니다.

#include "stdafx.h"

int main()
{
    char n = 0x80;
    short shortN = n;
    printf("%d\n", shortN);

    if (shortN < 0)
    {
        shortN = -shortN;
        printf("Passed\n");
    }

    printf("%d\n", shortN);
}

당연하지만, 이 현상은 숫자형 타입의 바이트 범위(char, short, int, __int64)마다 나타나게 됩니다.

-128
Passed
-128

-32768
Passed
-32768

-2147483648
Passed
-2147483648

-9223372036854775808
Passed
-9223372036854775808




참고로 C#의 경우에도 역시 2의 보수를 사용하므로 마찬가지 문제를 갖습니다. (즉, 특정 언어만의 문제가 아니라 2의 보수 표현을 채택한 모든 언어에서 발생할 수 있는 현상입니다.)

{
    int n = int.MinValue;

    Console.WriteLine(n);

    if (n < 0)
    {
        n = -n;
        Console.WriteLine("Passed");
    }

    Console.WriteLine(n);
}

/*
출력 결과:

-2147483648
Passed
-2147483648
*/

대신 Math.Abs를 이용하는 경우 Overflow 예외를 발생시켜 줍니다.

int n = int.MinValue;
n = Math.Abs(n); // Unhandled Exception: System.OverflowException: Negating the minimum value of a twos complement number is invalid.

또한, 명시적으로 checked 영역으로 지정하면 마찬가지로 System.OverflowException 예외가 발생하지만 약간 메시지의 내용이 다릅니다.

checked
{
    int n = int.MinValue;
    n = -n; // Unhandled Exception: System.OverflowException: Arithmetic operation resulted in an overflow.
}




재미있는 것은, 예전에 다음과 같은 글을 쓴 적이 있는데요.

C++ 숫자형 값이 범위를 벗어나는 경우의 출력 사례 모음
; https://www.sysnet.pe.kr/2/0/1660

위의 질문에서 "의문 1"에 대한 답변을 했음에도 불구하고 ^^; 저 역시 이와 관련된 버그를 낸 것입니다. 다시 한번 경각심을 갖는 의미에서, 이 글을 기록으로 남깁니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]





[최초 등록일: ]
[최종 수정일: 8/8/2018 ]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer@outlook.com

비밀번호

댓글 쓴 사람
 




... [46]  47  48  49  50  51  52  53  54  55  56  57  58  59  60  ...
NoWriterDateCnt.TitleFile(s)
11071정성태10/20/20166849.NET Framework: 612. UWP(유니버설 윈도우 플랫폼) 앱에서 콜백 함수 내에서의 UI 요소 접근 방법 [1]
11070정성태10/21/20165272Windows: 125. 윈도우 서버 2016 마이그레이션
11069정성태3/25/20179839.NET Framework: 611. C++ 개발자들을 위한 C# Thread 동작 방식 [3]
11068정성태5/24/201910666Windows: 124. 윈도우 운영체제의 시간 함수 (5) - TSC(Time Stamp Counter)와 QueryPerformanceCounter [10]파일 다운로드1
11067정성태2/6/20188669Windows: 123. 윈도우 운영체제의 시간 함수 (4) - RTC, TSC, PM Clock, HPET Timer [2]
11066정성태2/6/20186977Windows: 122. 윈도우 운영체제의 시간 함수 (3) - QueryInterruptTimePrecise, QueryInterruptTime 함수파일 다운로드1
11065정성태2/6/20189293Windows: 121. 윈도우 운영체제의 시간 함수 (2) - Sleep 함수의 동작 방식
11064정성태10/19/20196059.NET Framework: 610. C# - WaitOnAddress Win32 API 사용파일 다운로드1
11063정성태2/6/201815104Windows: 120. 윈도우 운영체제의 시간 함수 (1) - GetTickCount와 timeGetTime의 차이점 [5]파일 다운로드1
11062정성태10/12/20165741오류 유형: 361. WCF .svc 호출 시 Could not find a base address that matches scheme net.tcp 예외
11061정성태10/12/201611008오류 유형: 360. IIS - 500.19 오류 (0x80070021)
11060정성태10/12/20165079오류 유형: 359. WCF - .svc 요청시 404 Not Found
11059정성태10/11/20168696.NET Framework: 609. WPF - 다중 스레드 환경에서 데이터 바인딩의 INotifyPropertyChanged.PropertyChanged에 대한 배려 [1]파일 다운로드1
11058정성태10/8/20167450개발 환경 구성: 303. Windows 10 Bash Shell - 한글 환경을 영문으로 바꾸고 싶다면?
11057정성태10/8/20165511오류 유형: 358. Windows 10 bash shell - sudo: unable to resolve host ...
11056정성태10/8/20165535개발 환경 구성: 302. Windows 10 bash shell 시작 시 [...] packages can be updated.
11055정성태10/11/20166438.NET Framework: 608. double 값을 구할 때는 반드시 피연산자를 double로 형변환! [6]
11054정성태10/5/20166203개발 환경 구성: 301. "Let's Encrypt" SSL 인증서를 Azure Cloud Services(classic)에 업데이트하는 방법
11053정성태10/6/20165170.NET Framework: 607. C# try/catch/finally의 IL 코드 표현
11052정성태9/27/201612375개발 환경 구성: 300. C# DLL에서 Win32 C/C++처럼 dllexport 함수를 제공하는 방법 [1]파일 다운로드1
11051정성태9/25/20165891개발 환경 구성: 299. docker - c:\programdata\docker\windowsfilter 폴더 정리하는 방법파일 다운로드1
11050정성태9/24/20169079VC++: 101. 반올림하지 않고 double 변수 값 출력하는 방법 [3]
11049정성태9/24/20165556오류 유형: 357. 윈도우 백업 시 오류 - 0x81000037
11048정성태9/24/20166408VC++: 100. 전역 변수 유형별 실행 파일 크기 차이점
11047정성태9/21/20168787기타: 61. algospot.com - 양자화(Quantization) 문제 [2]파일 다운로드1
11046정성태12/13/20199220개발 환경 구성: 298. Windows 10 - bash 실행 시 시작 디렉터리 자동 변경
... [46]  47  48  49  50  51  52  53  54  55  56  57  58  59  60  ...