Microsoft MVP성태의 닷넷 이야기
글쓴 사람
홈페이지
첨부 파일
 

음수의 음수는 여전히 음수가 되는 수(절대값이 음수인 수)

저도 잊고 지내던 코드에서, 어느날 버그 리포트가 들어왔습니다. 오늘은 그 버그와 관련된 이야기를 해보겠습니다. ^^

재현은 다음과 같이 간단하게 할 수 있습니다.

// Visual C++
#include "stdafx.h"

int main()
{
    char n = 0x80; // 0x80 == -128
    printf("%d\n", n);

    if (n < 0)
    {
        // n = abs(n);로 해도 마찬가지
        // n = n * -1;로 해도 마찬가지
        n = -n; 
        printf("Passed\n");
    }

    printf("%d\n", n);
    return 0;
}

출력 결과는 다음과 같습니다.

-128
Passed
-128

음수인 경우 양수로 바꾸려고 했는데 그 결과가 다시 음수가 되었습니다. 원인은 간단합니다. 2의 보수 표현에서 1바이트가 표현 가능한 수의 범위는 -128 ~ 127이기 때문에 -128에 대한 양수 표현이 불가능한 것입니다. 실제로 0x80에 대해 2의 보수를 어느 방향으로 적용해도 같은 숫자가 나오는 것을 확인할 수 있습니다.

n == 0x80 == 1000_0000

1000_0000
-       1
---------
0111_1111
==> 1의 보수
1000_0000

1000_0000
==> 1의 보수
0111_1111
+       1
---------
1000_0000

이 문제를 해결하려면 비트 수를 늘려야만 합니다.

#include "stdafx.h"

int main()
{
    char n = 0x80;
    short shortN = n;
    printf("%d\n", shortN);

    if (shortN < 0)
    {
        shortN = -shortN;
        printf("Passed\n");
    }

    printf("%d\n", shortN);
}

당연하지만, 이 현상은 숫자형 타입의 바이트 범위(char, short, int, __int64)마다 나타나게 됩니다.

-128
Passed
-128

-32768
Passed
-32768

-2147483648
Passed
-2147483648

-9223372036854775808
Passed
-9223372036854775808




참고로 C#의 경우에도 역시 2의 보수를 사용하므로 마찬가지 문제를 갖습니다. (즉, 특정 언어만의 문제가 아니라 2의 보수 표현을 채택한 모든 언어에서 발생할 수 있는 현상입니다.)

{
    int n = int.MinValue;

    Console.WriteLine(n);

    if (n < 0)
    {
        n = -n;
        Console.WriteLine("Passed");
    }

    Console.WriteLine(n);
}

/*
출력 결과:

-2147483648
Passed
-2147483648
*/

대신 Math.Abs를 이용하는 경우 Overflow 예외를 발생시켜 줍니다.

int n = int.MinValue;
n = Math.Abs(n); // Unhandled Exception: System.OverflowException: Negating the minimum value of a twos complement number is invalid.

또한, 명시적으로 checked 영역으로 지정하면 마찬가지로 System.OverflowException 예외가 발생하지만 약간 메시지의 내용이 다릅니다.

checked
{
    int n = int.MinValue;
    n = -n; // Unhandled Exception: System.OverflowException: Arithmetic operation resulted in an overflow.
}




재미있는 것은, 예전에 다음과 같은 글을 쓴 적이 있는데요.

C++ 숫자형 값이 범위를 벗어나는 경우의 출력 사례 모음
; https://www.sysnet.pe.kr/2/0/1660

위의 질문에서 "의문 1"에 대한 답변을 했음에도 불구하고 ^^; 저 역시 이와 관련된 버그를 낸 것입니다. 다시 한번 경각심을 갖는 의미에서, 이 글을 기록으로 남깁니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]





[최초 등록일: ]
[최종 수정일: 8/8/2018 ]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer@outlook.com

비밀번호

댓글 쓴 사람
 




... 16  17  18  19  20  21  22  23  24  [25]  26  27  28  29  30  ...
NoWriterDateCnt.TitleFile(s)
11654정성태8/18/20182046사물인터넷: 27. 병렬 회로의 저항, 전압 및 전류파일 다운로드1
11653정성태8/18/20181941사물인터넷: 26. 입력 전압에 따른 LED의 전압/저항 변화파일 다운로드1
11652정성태9/11/20181848사물인터넷: 25. 컬렉터 9V, 베이스에 5V와 3.3V 전압으로 테스트하는 C1815 트랜지스터파일 다운로드1
11651정성태9/4/20183660사물인터넷: 24. 9V 전압에서 테스트하는 C1815 트랜지스터파일 다운로드3
11650정성태8/18/20181985사물인터넷: 23. 가변저항으로 분압파일 다운로드1
11649정성태8/14/20182118사물인터넷: 22. 저항에 따른 전류 테스트파일 다운로드1
11648정성태10/17/20182833사물인터넷: 21. 퓨즈를 이용한 회로 보호파일 다운로드3
11647정성태8/8/20182176오류 유형: 476. 음수의 음수는 여전히 음수가 되는 수(절대값이 음수인 수)
11646정성태8/8/20181922오류 유형: 475. gacutil.exe 실행 시 "Failure initializing gacutil" 오류 발생
11645정성태8/8/20182345오류 유형: 474. 닷넷 COM+ - Failed to load the runtime. [1]
11644정성태8/8/20182962디버깅 기술: 118. windbg - 닷넷 개발자를 위한 MEX Debugging Extension 소개
11643정성태8/12/20183112사물인터넷: 20. 아두이노 레오나르도 R3 호환 보드의 3.3v 핀의 LED 전압/전류 테스트 [1]파일 다운로드1
11642정성태8/3/20183071Graphics: 20. Unity - LightMode의 ForwardBase에 따른 _WorldSpaceLightPos0 값 변화
11641정성태8/3/20184453Graphics: 19. Unity로 실습하는 Shader (10) - 빌보드 구현파일 다운로드1
11640정성태8/3/20183207Graphics: 18. Unity - World matrix(unity_ObjectToWorld)로부터 Position, Rotation, Scale 값을 복원하는 방법파일 다운로드1
11639정성태8/2/20182608디버깅 기술: 117. windbg - 덤프 파일로부터 추출한 DLL을 참조하는 방법
11638정성태8/2/20182098오류 유형: 473. windbg - 덤프 파일로부터 추출한 DLL 참조 시 "Resolved file has a bad image, no metadata, or is otherwise inaccessible." 빌드 오류
11637정성태8/1/20182974Graphics: 17. Unity - World matrix(unity_ObjectToWorld)로부터 TRS(이동/회전/크기) 행렬로 복원하는 방법파일 다운로드1
11636정성태8/1/20185000Graphics: 16. 3D 공간에서 두 점이 이루는 각도 구하기파일 다운로드1
11635정성태8/1/20182450오류 유형: 472. C# 컴파일 오류 - Your project is not referencing the ".NETFramework,Version=v3.5" framework.
11634정성태8/1/20182315.NET Framework: 790. .NET Thread 상태가 Cooperative일 때 GC hang 현상 재현 방법파일 다운로드1
11633정성태7/29/20184206Graphics: 15. Unity - shader의 World matrix(unity_ObjectToWorld)를 수작업으로 구성 [1]
11632정성태7/28/20187126Graphics: 14. C# - Unity에서 캐릭터가 바라보는 방향을 기준으로 카메라의 위치 이동 및 회전하는 방법
11631정성태7/27/20185332Graphics: 13. Unity로 실습하는 Shader (9) - 투명 배경이 있는 텍스처 입히기
11630정성태2/11/20203095개발 환경 구성: 391. (GitHub 등과 직접 연동해) 소스 코드 디버깅을 쉽게 해 주는 SourceLink [2]
11629정성태7/26/20182422.NET Framework: 789. C# 컴파일 옵션 - Check for arithmetic overflow/underflow [1]
... 16  17  18  19  20  21  22  23  24  [25]  26  27  28  29  30  ...