Microsoft MVP성태의 닷넷 이야기
오버플로우와 언더플로우 [링크 복사], [링크+제목 복사]
조회: 3939
글쓴 사람
농상
홈페이지
첨부 파일
 
'시작하세요! C# 7.1 프로그래밍'으로 공부하고 있습니다.
277쪽 연산 범위 확인 부분을 공부하고 있는 중에 '데이터가 상한값을 넘어 하한값으로 돌아가는 것을 오버플로라고 하고, 반대의 현상을 언더플로라고 한다.'라고 적혀있습니다.
컴퓨터 구조에 대해서 공부할 때 '최상위 부호비트의 자리올림이 발생할 때 오버플로우'라고 배웠습니다.
그렇기 때문에 정수값이 MaxValue일 때 +1을 하고 저장하여 MinValue가 될 때, MinValue일 때 -1을 하고 저장하여 MaxValue가 될 때 모두 산술 오버플로우인 것으로 배운 것이죠.
산술 언더플로우는 소수를 표현함에 있어서, 0과 매우 정밀하게 근접한 값을 표현하려다 결국 표현하지 못하고 결국 0으로 표현하는 것이라고 배웠습니다.
실제로 checked를 사용해서 MinValue에서 -1을 했을 때 System.OverflowException이 발생했습니다.
소수의 경우 MaxValue에서 아무리 큰 값을 더해도 오버플로우를 검출할 수는 없었지만 소수가 표현할 수 있는 가장 작은 양수값인 Epsilon에 아주 작은 수를 빼서 0으로 출력하게끔 만들기도 했습니다.
소수가 0으로 출력되는 경우는 checked를 사용해도 예외를 던지지 않았으므로 오버플로우인지 언더플로우인지 알 수 없었습니다.

이번에는 제가 구현한 코드입니다.
public static void Main()
{
    float f = float.Epsilon; // float이 표현 가능한 최소한의 양수

    checked
    {
        f -= (float)0.000000000000000000000000000000000000000000001; // 매우 작은 양수 값을 빼서 더 정밀한 값을 저장
    }                             // 더 정밀한 값을 표현하지 못하지만 예외가 발생하지 않는다.
    Console.WriteLine(f); // 표현을 못해서 0으로 표현

    sbyte sb = -128; // sbyte가 표현 가능한 최소값

    checked
    {
        sb -= 1; // OverflowException 발생
    }

    Console.WriteLine(sb);
}

컴퓨터 구조 책에도 오버플로우는 덧셈 연산을 했을 때 발생하는 오버플로우와 뺄셈 연산을 했을 때 발생하는 오버플로우 두가지 상황을 설명하고 있습니다.
실수에서는 오버플로우와 언더플로우 모두 발생할 수 있으며, 음수 Epsilon에서 아주 정밀한 값을 더하여 0이 되는 현상을 음수 언더플로우, 양수 Epsilon에서 아주 정밀한 값을 빼서 0이되는 현상을 양수 언더플로우라고 설명하고 있습니다.
적어도 정수의 경우 MinValue에서 -1을 하여 MaxValue로 변하는 경우도 오버플로우라고 적혀야 하지 않나 생각합니다.
그리고 소수의 오버플로우를 검출하는 방법도 궁금합니다.


[연관 글]





[최초 등록일: ]
[최종 수정일: 7/26/2018 ]


비밀번호

댓글 쓴 사람
 



2018-07-26 11시03분
좋은 의견 감사드립니다. 한 번도 고민해 본 적이 없는 사항이었는데 말씀해 주신 내용 덕분에 제대로 파악할 수 있게 되었습니다. 우선, 말씀해 주신 사항이 모두 맞지만 옵션에서의 underflow는 단순히 MinValue - 1일 때의 상황에서 발생하는 것을 언급한다고 생각합니다. 일단 이에 대해서는 마이크로소프트 측에 이슈를 넣었으니 그것이 진행되는 상황을 보고 향후 판단을 해도 될 것 같습니다.

관련해서 다음의 글로 별도로 정리했으니 참고하세요. (아래에도 적었지만, 닷넷에서 부동 소수점 연산에서의 오버플로우는 예외로 발생하지 않습니다.)

C# 컴파일 옵션 - Check for arithmetic overflow/underflow
; http://www.sysnet.pe.kr/2/0/11629
정성태
2018-07-26 11시14분
그래도, 노트 형식으로 적어두는 것이 좋겠다 싶어 정오표에 내용을 추가했습니다.

도서: 시작하세요! C# 7.1 프로그래밍: 기본 문법부터 실전 예제까지
; http://www.sysnet.pe.kr/2/0/11265

다음 인쇄 본부터는 말씀해 주신 내용을 적용해 나갈 것입니다.
정성태

1  2  3  4  5  6  7  8  9  10  11  12  13  14  [15]  ...
NoWriterDateCnt.TitleFile(s)
5010C# 꿈나무7/8/20182436C# WebService 에서 질문이 있습니다. [1]
5009C#초보자7/5/20182419[C#] 감시 프로그램을 제작했는데, 작동은 하나 폼이 멈춰버렵니다... [1]파일 다운로드1
5008도와주세요7/5/20182381 리스트 아이템의 타입을 추출해서 다시 재활용하고 싶어요.2 [6]파일 다운로드1
5007도와주세요7/4/20182656리스트 아이템의 타입을 추출해서 다시 재활용하고 싶어요. [1]
5006정환나라7/4/20183193소켓 통신과 쓰레드에 관해 질문드립니다 [4]
5005psh7/4/20182335인용에 관련해 문의 드립니다 [1]파일 다운로드2
5004까오리7/4/20181895iis8.0에서 닷넷1.1을 사용하기 위한 질문입니다. [1]
5002멋쟁이7/2/20181840WPFApp에 관한 초보 질문입니다. [1]파일 다운로드1
5001김학완7/1/20182180시작하세요 C# 7.1 프로그래밍 P53쪽 질문입니다. [2]
5000레몬6/26/20182503안녕하세요 성태님 도움으로 C# 네이버 카페 스팸글 작성되면 삭제되는 프로그램을 만들었는데요..여쭤볼게 하나 있습니다. [3]
4999jt6/21/20182348검색어 입력, 엔터 > 페북 로그인창으로 이동합니다. [4]
4998개발희망6/11/20182262C# 형변환 질문있습니다! [1]
4997초보개발자6/5/20188211C++ dll C#에서 사용하는데 보호된 메모리 오류떠요 한번만 도와주세요ㅜ [2]파일 다운로드1
4996swc6/5/20182742현업에서 주로 사용하는 DB업데이트 방법 질문입니다. [1]파일 다운로드1
4993학생6/3/20182208질문 드립니다 [1]
4991최진안5/24/20182243Credential Provider 질문 [2]
4990heygongc5/21/20182247Sybase Adaptive Server Anywhere 6 버전에 대한 질문입니다. [7]
4989강한음5/18/20183263clickonce 배포 후 실행 무응답 [2]
4988C#7.1책구매자5/17/20182248dynamic 키워드를 사용한 객체 핸들링에 대해서 여쭤보려고 합니다. [1]
4987포플러5/14/20183134닥터왓슨 로그 - c0000005 (액세스 위반) 분석 부탁드려도 될까요? [2]
4986익명5/14/20183496비주얼 스튜디오 wpf 프로젝트에서 어떻게 하면 exe파일과 실행에 필요한 파일들을 분리해서 정리해서 디렉토리로 묶을 수 있을까요? [4]
4985대구개발자5/7/20182517새로운 폴더만 "이름 없는 파일" 오류 [1]
4984안중언5/6/20183068교재 143page [1]
4983익명5/4/20187203(wpf) 다른 컴퓨터에서 사용하면 자꾸 ('CefSharp.Core.dll' 또는 여기에 종속되어 있는 파일이나 어셈블리 중 하나를 로드할 수 없습니다)라고 떠요.ㅠㅠ [5]
4982SoulToMind4/27/20182519MFC ActiveX 컨트롤 안에 있는 C# ActiveX 컨트롤 포인터 얻기 [4]
4981대전박4/25/20182325WPF IValueConverter 를 구현해서 StaticResource로 사용할때요 [1]
1  2  3  4  5  6  7  8  9  10  11  12  13  14  [15]  ...