Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 

음수의 음수는 여전히 음수가 되는 수(절대값이 음수인 수)

저도 잊고 지내던 코드에서, 어느날 버그 리포트가 들어왔습니다. 오늘은 그 버그와 관련된 이야기를 해보겠습니다. ^^

재현은 다음과 같이 간단하게 할 수 있습니다.

// Visual C++
#include "stdafx.h"

int main()
{
    char n = 0x80; // 0x80 == -128
    printf("%d\n", n);

    if (n < 0)
    {
        // n = abs(n);로 해도 마찬가지
        // n = n * -1;로 해도 마찬가지
        n = -n; 
        printf("Passed\n");
    }

    printf("%d\n", n);
    return 0;
}

출력 결과는 다음과 같습니다.

-128
Passed
-128

음수인 경우 양수로 바꾸려고 했는데 그 결과가 다시 음수가 되었습니다. 원인은 간단합니다. 2의 보수 표현에서 1바이트가 표현 가능한 수의 범위는 -128 ~ 127이기 때문에 -128에 대한 양수 표현이 불가능한 것입니다. 실제로 0x80에 대해 2의 보수를 어느 방향으로 적용해도 같은 숫자가 나오는 것을 확인할 수 있습니다.

n == 0x80 == 1000_0000

1000_0000
-       1
---------
0111_1111
==> 1의 보수
1000_0000

1000_0000
==> 1의 보수
0111_1111
+       1
---------
1000_0000

이 문제를 해결하려면 비트 수를 늘려야만 합니다.

#include "stdafx.h"

int main()
{
    char n = 0x80;
    short shortN = n;
    printf("%d\n", shortN);

    if (shortN < 0)
    {
        shortN = -shortN;
        printf("Passed\n");
    }

    printf("%d\n", shortN);
}

당연하지만, 이 현상은 숫자형 타입의 바이트 범위(char, short, int, __int64)마다 나타나게 됩니다.

-128
Passed
-128

-32768
Passed
-32768

-2147483648
Passed
-2147483648

-9223372036854775808
Passed
-9223372036854775808




참고로 C#의 경우에도 역시 2의 보수를 사용하므로 마찬가지 문제를 갖습니다. (즉, 특정 언어만의 문제가 아니라 2의 보수 표현을 채택한 모든 언어에서 발생할 수 있는 현상입니다.)

{
    int n = int.MinValue;

    Console.WriteLine(n);

    if (n < 0)
    {
        n = -n;
        Console.WriteLine("Passed");
    }

    Console.WriteLine(n);
}

/*
출력 결과:

-2147483648
Passed
-2147483648
*/

대신 Math.Abs를 이용하는 경우 Overflow 예외를 발생시켜 줍니다.

int n = int.MinValue;
n = Math.Abs(n); // Unhandled Exception: System.OverflowException: Negating the minimum value of a twos complement number is invalid.

또한, 명시적으로 checked 영역으로 지정하면 마찬가지로 System.OverflowException 예외가 발생하지만 약간 메시지의 내용이 다릅니다.

checked
{
    int n = int.MinValue;
    n = -n; // Unhandled Exception: System.OverflowException: Arithmetic operation resulted in an overflow.
}




재미있는 것은, 예전에 다음과 같은 글을 쓴 적이 있는데요.

C++ 숫자형 값이 범위를 벗어나는 경우의 출력 사례 모음
; https://www.sysnet.pe.kr/2/0/1660

위의 질문에서 "의문 1"에 대한 답변을 했음에도 불구하고 ^^; 저 역시 이와 관련된 버그를 낸 것입니다. 다시 한번 경각심을 갖는 의미에서, 이 글을 기록으로 남깁니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]


donaricano-btn



[최초 등록일: ]
[최종 수정일: 8/8/2018 ]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 쓴 사람
 




[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
12608정성태4/21/202123.NET Framework: 1044. C# - Generic Host를 이용해 .NET 5로 리눅스 daemon 프로그램 만드는 방법 [1]파일 다운로드1
12607정성태4/21/202124.NET Framework: 1043. C# - 실행 시점에 동적으로 Delegate 타입을 만드는 방법파일 다운로드1
12606정성태4/21/202129.NET Framework: 1042. C# - enum 값을 int로 암시적(implicit) 형변환하는 방법?파일 다운로드1
12605정성태4/18/202138.NET Framework: 1041. C# - AssemblyID, ModuleID를 관리 코드에서 구하는 방법파일 다운로드1
12604정성태4/19/202154VS.NET IDE: 163. 비주얼 스튜디오 속성 창의 "Build(빌드)" / "Configuration(구성)"에서의 "활성" 의미
12603정성태4/16/202169VS.NET IDE: 162. 비주얼 스튜디오 - 상속받은 컨트롤이 디자인 창에서 지원되지 않는 문제
12602정성태4/19/202149VS.NET IDE: 161. x64 DLL 프로젝트의 컨트롤이 Visual Studio의 Designer에서 보이지 않는 문제
12601정성태4/15/202163.NET Framework: 1040. C# - REST API 대신 github 클라이언트 라이브러리를 통해 프로그래밍으로 접근
12600정성태4/15/202152.NET Framework: 1039. C# - Kubeconfig의 token 설정 및 인증서 구성을 자동화하는 프로그램
12599정성태4/14/202177.NET Framework: 1038. C# - 인증서 및 키 파일로부터 pfx/p12 파일을 생성하는 방법파일 다운로드1
12598정성태4/14/202150.NET Framework: 1037. openssl의 PEM 개인키 파일을 .NET RSACryptoServiceProvider에서 사용하는 방법 (2)파일 다운로드1
12597정성태4/14/202177개발 환경 구성: 569. csproj의 내용을 공통 설정할 수 있는 Directory.Build.targets / Directory.Build.props 파일
12596정성태4/12/2021103개발 환경 구성: 568. Windows의 80 포트 점유를 해제하는 방법
12595정성태4/12/202199.NET Framework: 1036. SQL 서버 - varbinary 타입에 대한 문자열의 CAST, CONVERT 변환을 C# 코드로 구현
12594정성태4/15/2021149.NET Framework: 1035. C# - kubectl 명령어 또는 REST API 대신 Kubernetes 클라이언트 라이브러리를 통해 프로그래밍으로 접근파일 다운로드1
12593정성태4/15/2021112개발 환경 구성: 567. Docker Desktop for Windows - kubectl proxy 없이 k8s 대시보드 접근 방법
12592정성태4/15/2021114개발 환경 구성: 566. Docker Desktop for Windows - k8s dashboard의 Kubeconfig 로그인 및 Skip 방법
12591정성태4/9/2021186.NET Framework: 1034. C# - byte 배열을 Hex(16진수) 문자열로 고속 변환하는 방법파일 다운로드1
12590정성태4/9/2021147.NET Framework: 1033. C# - .NET 4.0 이하에서 Console.IsInputRedirected 구현
12589정성태4/8/2021133.NET Framework: 1032. C# - Environment.OSVersion의 문제점 및 윈도우 운영체제의 버전을 구하는 다양한 방법
12588정성태4/7/2021107개발 환경 구성: 565. PowerShell - New-SelfSignedCertificate를 사용해 CA 인증서 생성 및 인증서 서명 방법
12587정성태4/7/2021169개발 환경 구성: 564. Windows 10 - ClickOnce 배포처럼 사용할 수 있는 MSIX 설치 파일
12586정성태4/5/202180오류 유형: 710 . Windows - Restart-Computer / shutdown 명령어 수행 시 Access is denied(E_ACCESSDENIED)
12585정성태4/5/2021127개발 환경 구성: 563. 기본 생성된 kubeconfig 파일의 내용을 새롭게 생성한 인증서로 구성하는 방법
12584정성태4/12/2021116개발 환경 구성: 562. kubeconfig 파일 없이 kubectl 옵션만으로 실행하는 방법
[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...