Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 1개 있습니다.)
(시리즈 글이 3개 있습니다.)
.NET Framework: 345. C# 부호(+, -)에 대한 비트 변환
; https://www.sysnet.pe.kr/2/0/1379

VC++: 77. C++ 숫자형 값이 범위를 벗어나는 경우의 출력 사례 모음
; https://www.sysnet.pe.kr/2/0/1660

오류 유형: 476. 음수의 음수는 여전히 음수가 되는 수(절대값이 음수인 수)
; https://www.sysnet.pe.kr/2/0/11647




음수의 음수는 여전히 음수가 되는 수(절대값이 음수인 수)

이 글과 관련된 영상을 유튜브로 제공하고 있습니다. ^^

보수(Complement)와 연결된 코딩 규칙 2가지 (4분 영상)
; https://youtu.be/UG21VHAie2A



저도 잊고 지내던 코드에서, 어느 날 버그 리포트가 들어왔습니다. 오늘은 그 버그와 관련된 이야기를 해보겠습니다. ^^

재현은 다음과 같이 간단하게 할 수 있습니다.

// Visual C++
#include "stdafx.h"

int main()
{
    char n = 0x80; // 0x80 == -128
    printf("%d\n", n);

    if (n < 0)
    {
        // n = abs(n);로 해도 마찬가지
        // n = n * -1;로 해도 마찬가지
        n = -n; 
        printf("Passed\n");
    }

    printf("%d\n", n);
    return 0;
}

출력 결과는 다음과 같습니다.

-128
Passed
-128

음수인 경우 양수로 바꾸려고 했는데 그 결과가 다시 음수가 되었습니다. 원인은 간단합니다. 2의 보수 표현에서 1바이트가 표현 가능한 수의 범위는 -128 ~ 127이기 때문에 -128에 대한 양수 표현이 불가능한 것입니다. 실제로 0x80에 대해 2의 보수를 어느 방향으로 적용해도 같은 숫자가 나오는 것을 확인할 수 있습니다.

n == 0x80 == 1000_0000

1000_0000
-       1
---------
0111_1111
==> 1의 보수
1000_0000

1000_0000
==> 1의 보수
0111_1111
+       1
---------
1000_0000

이 문제를 해결하려면 비트 수를 늘려야만 합니다.

#include "stdafx.h"

int main()
{
    char n = 0x80;
    short shortN = n;
    printf("%d\n", shortN);

    if (shortN < 0)
    {
        shortN = -shortN;
        printf("Passed\n");
    }

    printf("%d\n", shortN);
}

당연하지만, 이 현상은 숫자형 타입의 바이트 범위(char, short, int, __int64)마다 나타나게 됩니다.

-128
Passed
-128

-32768
Passed
-32768

-2147483648
Passed
-2147483648

-9223372036854775808
Passed
-9223372036854775808




참고로 C#의 경우에도 역시 2의 보수를 사용하므로 마찬가지 문제를 갖습니다. (즉, 특정 언어만의 문제가 아니라 2의 보수 표현을 채택한 모든 언어에서 발생할 수 있는 현상입니다.)

{
    int n = int.MinValue;

    Console.WriteLine(n);

    if (n < 0)
    {
        n = -n;
        Console.WriteLine("Passed");
    }

    Console.WriteLine(n);
}

/*
출력 결과:

-2147483648
Passed
-2147483648
*/

대신 Math.Abs를 이용하는 경우 Overflow 예외를 발생시켜 줍니다.

int n = int.MinValue;
n = Math.Abs(n); // Unhandled Exception: System.OverflowException: Negating the minimum value of a twos complement number is invalid.

또한, 명시적으로 checked 영역으로 지정하면 마찬가지로 System.OverflowException 예외가 발생하지만 약간 메시지의 내용이 다릅니다.

checked
{
    int n = int.MinValue;
    n = -n; // Unhandled Exception: System.OverflowException: Arithmetic operation resulted in an overflow.
}




재미있는 것은, 예전에 다음과 같은 글을 쓴 적이 있는데요.

C++ 숫자형 값이 범위를 벗어나는 경우의 출력 사례 모음
; https://www.sysnet.pe.kr/2/0/1660

위의 질문에서 "의문 1"에 대한 답변을 했음에도 불구하고 ^^; 저 역시 이와 관련된 버그를 낸 것입니다. 다시 한번 경각심을 갖는 의미에서, 이 글을 기록으로 남깁니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 1/30/2022]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




... 31  32  33  34  35  36  37  38  [39]  40  41  42  43  44  45  ...
NoWriterDateCnt.TitleFile(s)
13009정성태3/20/202217441개발 환경 구성: 640. docker - ibmcom/db2 컨테이너 실행
13008정성태3/19/202217425VS.NET IDE: 176. 비주얼 스튜디오 - 솔루션 탐색기에서 프로젝트를 선택할 때 csproj 파일이 열리지 않도록 만드는 방법
13007정성태3/18/202214921.NET Framework: 1181. C# - Oracle.ManagedDataAccess의 Pool 및 그것의 연결 개체 수를 알아내는 방법파일 다운로드1
13006정성태3/17/202218315.NET Framework: 1180. C# - ffmpeg(FFmpeg.AutoGen)를 이용한 remuxing.c 예제 포팅
13005정성태3/17/202216375오류 유형: 800. C# - System.InvalidOperationException: Late bound operations cannot be performed on fields with types for which Type.ContainsGenericParameters is true.
13004정성태3/16/202215839디버깅 기술: 182. windbg - 닷넷 메모리 덤프에서 AppDomain에 걸친 정적(static) 필드 값을 조사하는 방법
13003정성태3/15/202216192.NET Framework: 1179. C# - (.NET Framework를 위한) Oracle.ManagedDataAccess 패키지의 성능 카운터 설정 방법
13002정성태3/14/202217989.NET Framework: 1178. C# - ffmpeg(FFmpeg.AutoGen)를 이용한 http_multiclient.c 예제 포팅
13001정성태3/13/202218557.NET Framework: 1177. C# - 닷넷에서 허용하는 메서드의 매개변수와 호출 인자의 최대 수
13000정성태3/12/202217085.NET Framework: 1176. C# - Oracle.ManagedDataAccess.Core의 성능 카운터 설정 방법
12999정성태3/10/202217376.NET Framework: 1175. Visual Studio - 프로젝트 또는 솔루션의 Clean 작업 시 응용 프로그램에서 생성한 파일을 함께 삭제파일 다운로드1
12998정성태3/10/202214184.NET Framework: 1174. C# - ELEMENT_TYPE_FNPTR 유형의 사용 예
12997정성태3/10/202224965오류 유형: 799. Oracle.ManagedDataAccess - "ORA-01882: timezone region not found" 오류가 발생하는 이유
12996정성태3/9/202226221VS.NET IDE: 175. Visual Studio - 인텔리센스에서 오버로드 메서드를 키보드로 선택하는 방법
12995정성태3/8/202217348.NET Framework: 1173. .NET에서 Producer/Consumer를 구현한 BlockingCollection<T>
12994정성태3/8/202216776오류 유형: 798. WinDbg - Failed to load data access module, 0x80004002
12993정성태3/4/202216882.NET Framework: 1172. .NET에서 Producer/Consumer를 구현하는 기초 인터페이스 - IProducerConsumerCollection<T>
12992정성태3/3/202220380.NET Framework: 1171. C# - BouncyCastle을 사용한 암호화/복호화 예제파일 다운로드1
12991정성태3/2/202217945.NET Framework: 1170. C# - ffmpeg(FFmpeg.AutoGen)를 이용한 transcode_aac.c 예제 포팅
12990정성태3/2/202218320오류 유형: 797. msbuild - The BaseOutputPath/OutputPath property is not set for project '[...].vcxproj'
12989정성태3/2/202215430오류 유형: 796. mstest.exe - System.IO.FileNotFoundException: Could not load file or assembly 'Microsoft.VisualStudio.QualityTools.Tips.WebLoadTest.Tip
12988정성태3/2/202213254오류 유형: 795. CI 환경에서 Docker build 시 csproj의 Link 파일에 대한 빌드 오류
12987정성태3/1/202215693.NET Framework: 1169. C# - ffmpeg(FFmpeg.AutoGen)를 이용한 demuxing_decoding.c 예제 포팅
12986정성태2/28/202218874.NET Framework: 1168. C# -IIncrementalGenerator를 적용한 Version 2 Source Generator 실습 [1]
12985정성태2/28/202217559.NET Framework: 1167. C# -Version 1 Source Generator 실습
12984정성태2/24/202217228.NET Framework: 1166. C# - ffmpeg(FFmpeg.AutoGen)를 이용한 filtering_video.c 예제 포팅
... 31  32  33  34  35  36  37  38  [39]  40  41  42  43  44  45  ...