Microsoft MVP성태의 닷넷 이야기
글쓴 사람
홈페이지
첨부 파일
 

음수의 음수는 여전히 음수가 되는 수(절대값이 음수인 수)

저도 잊고 지내던 코드에서, 어느날 버그 리포트가 들어왔습니다. 오늘은 그 버그와 관련된 이야기를 해보겠습니다. ^^

재현은 다음과 같이 간단하게 할 수 있습니다.

// Visual C++
#include "stdafx.h"

int main()
{
    char n = 0x80; // 0x80 == -128
    printf("%d\n", n);

    if (n < 0)
    {
        // n = abs(n);로 해도 마찬가지
        // n = n * -1;로 해도 마찬가지
        n = -n; 
        printf("Passed\n");
    }

    printf("%d\n", n);
    return 0;
}

출력 결과는 다음과 같습니다.

-128
Passed
-128

음수인 경우 양수로 바꾸려고 했는데 그 결과가 다시 음수가 되었습니다. 원인은 간단합니다. 2의 보수 표현에서 1바이트가 표현 가능한 수의 범위는 -128 ~ 127이기 때문에 -128에 대한 양수 표현이 불가능한 것입니다. 실제로 0x80에 대해 2의 보수를 어느 방향으로 적용해도 같은 숫자가 나오는 것을 확인할 수 있습니다.

n == 0x80 == 1000_0000

1000_0000
-       1
---------
0111_1111
==> 1의 보수
1000_0000

1000_0000
==> 1의 보수
0111_1111
+       1
---------
1000_0000

이 문제를 해결하려면 비트 수를 늘려야만 합니다.

#include "stdafx.h"

int main()
{
    char n = 0x80;
    short shortN = n;
    printf("%d\n", shortN);

    if (shortN < 0)
    {
        shortN = -shortN;
        printf("Passed\n");
    }

    printf("%d\n", shortN);
}

당연하지만, 이 현상은 숫자형 타입의 바이트 범위(char, short, int, __int64)마다 나타나게 됩니다.

-128
Passed
-128

-32768
Passed
-32768

-2147483648
Passed
-2147483648

-9223372036854775808
Passed
-9223372036854775808




참고로 C#의 경우에도 역시 2의 보수를 사용하므로 마찬가지 문제를 갖습니다. (즉, 특정 언어만의 문제가 아니라 2의 보수 표현을 채택한 모든 언어에서 발생할 수 있는 현상입니다.)

{
    int n = int.MinValue;

    Console.WriteLine(n);

    if (n < 0)
    {
        n = -n;
        Console.WriteLine("Passed");
    }

    Console.WriteLine(n);
}

/*
출력 결과:

-2147483648
Passed
-2147483648
*/

대신 Math.Abs를 이용하는 경우 Overflow 예외를 발생시켜 줍니다.

int n = int.MinValue;
n = Math.Abs(n); // Unhandled Exception: System.OverflowException: Negating the minimum value of a twos complement number is invalid.

또한, 명시적으로 checked 영역으로 지정하면 마찬가지로 System.OverflowException 예외가 발생하지만 약간 메시지의 내용이 다릅니다.

checked
{
    int n = int.MinValue;
    n = -n; // Unhandled Exception: System.OverflowException: Arithmetic operation resulted in an overflow.
}




재미있는 것은, 예전에 다음과 같은 글을 쓴 적이 있는데요.

C++ 숫자형 값이 범위를 벗어나는 경우의 출력 사례 모음
; https://www.sysnet.pe.kr/2/0/1660

위의 질문에서 "의문 1"에 대한 답변을 했음에도 불구하고 ^^; 저 역시 이와 관련된 버그를 낸 것입니다. 다시 한번 경각심을 갖는 의미에서, 이 글을 기록으로 남깁니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]





[최초 등록일: ]
[최종 수정일: 8/8/2018 ]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer@outlook.com

비밀번호

댓글 쓴 사람
 




... 31  32  33  34  [35]  36  37  38  39  40  41  42  43  44  45  ...
NoWriterDateCnt.TitleFile(s)
11351정성태12/22/20174783.NET Framework: 698. C# 컴파일러 대신 직접 구현하는 비동기(async/await) 코드파일 다운로드1
11350정성태11/1/20173386디버깅 기술: 108. windbg 분석 사례 - Redis 서버로의 호출을 기다리면서 hang 현상 발생
11349정성태10/31/20173533디버깅 기술: 107. windbg - x64 SOS 확장의 !clrstack 명령어가 출력하는 Child SP 값의 의미
11348정성태10/31/20173730디버깅 기술: 106. windbg - x64 역어셈블 코드에서 닷넷 메서드 호출의 인자를 확인하는 방법
11347정성태10/28/20175777오류 유형: 424. Visual Studio - "클래스 다이어그램 보기" 시 "작업을 완료할 수 없습니다. 해당 인터페이스를 지원하지 않습니다." 오류 발생
11346정성태10/25/20172877오류 유형: 423. Windows Server 2003 - The client-side extension could not remove user policy settings for 'Default Domain Policy {...}' (0x8007000d)
11338정성태10/25/20173255.NET Framework: 697. windbg - SOS DumpMT의 "BaseSize", "ComponentSize" 값에 대한 의미파일 다운로드1
11337정성태10/24/20173128.NET Framework: 696. windbg - SOS DumpClass/DumpMT의 "Vtable Slots", "Total Method Slots", "Slots in VTable" 값에 대한 의미파일 다운로드1
11336정성태10/20/20173359.NET Framework: 695. windbg - .NET string의 x86/x64 메모리 할당 구조
11335정성태10/18/20173735.NET Framework: 694. 닷넷 - <Module> 클래스의 용도
11334정성태10/18/20173450디버깅 기술: 105. windbg - k 명령어와 !clrstack을 조합한 호출 스택을 얻는 방법
11333정성태10/17/20173973오류 유형: 422. 윈도우 업데이트 - Code 9C48 Windows update encountered an unknown error.
11332정성태10/18/20173043디버깅 기술: 104. .NET Profiler + 디버거 연결 + .NET Exceptions = cpu high
11331정성태10/18/20173279디버깅 기술: 103. windbg - .NET 4.0 이상의 환경에서 모든 DLL에 대한 심벌 파일을 로드하는 파이썬 스크립트
11330정성태10/18/20174061디버깅 기술: 102. windbg - .NET 4.0 이상의 환경에서 DLL의 심벌 파일 로드 방법 [1]
11329정성태10/15/20174200.NET Framework: 693. C# - 오피스 엑셀 97-2003 .xls 파일에 대해 32비트/64비트 상관없이 접근 방법파일 다운로드1
11328정성태10/15/20176073.NET Framework: 692. C# - 하나의 바이너리로 환경에 맞게 32비트/64비트 EXE를 실행하는 방법파일 다운로드1
11327정성태10/15/20173489.NET Framework: 691. AssemblyName을 .csproj에서 바꾼 경우 빌드 오류 발생하는 문제파일 다운로드1
11326정성태10/15/20173845.NET Framework: 690. coreclr 소스코드로 알아보는 .NET 4.0의 모듈 로딩 함수 [1]
11325정성태10/14/20173257.NET Framework: 689. CLR 4.0 환경에서 DLL 모듈의 로드 주소(Base address) 알아내는 방법
11324정성태10/18/20173729디버깅 기술: 101. windbg - "*** WARNING: Unable to verify checksum for" 경고 없애는 방법
11322정성태10/18/20173153디버깅 기술: 100. windbg - .NET 4.0 응용 프로그램의 Main 메서드에 Breakpoint 걸기
11321정성태10/11/20173435.NET Framework: 688. NGen 모듈과 .NET Profiler
11320정성태10/12/20173270.NET Framework: 687. COR_PRF_USE_PROFILE_IMAGES 옵션과 NGen의 "profiler-enhanced images"
11319정성태10/11/20175660.NET Framework: 686. C# - string 배열을 담은 구조체를 직렬화하는 방법
11318정성태10/7/20174086VS.NET IDE: 122. 비주얼 스튜디오에서 관리자 권한을 요구하는 C# 콘솔 프로그램 제작
... 31  32  33  34  [35]  36  37  38  39  40  41  42  43  44  45  ...