(연관된 글이 2개 있습니다.)
'시작하세요! C# 7.1 프로그래밍'으로 공부하고 있습니다.
277쪽 연산 범위 확인 부분을 공부하고 있는 중에 '데이터가 상한값을 넘어 하한값으로 돌아가는 것을 오버플로라고 하고, 반대의 현상을 언더플로라고 한다.'라고 적혀있습니다.
컴퓨터 구조에 대해서 공부할 때 '최상위 부호비트의 자리올림이 발생할 때 오버플로우'라고 배웠습니다.
그렇기 때문에 정수값이 MaxValue일 때 +1을 하고 저장하여 MinValue가 될 때, MinValue일 때 -1을 하고 저장하여 MaxValue가 될 때 모두 산술 오버플로우인 것으로 배운 것이죠.
산술 언더플로우는 소수를 표현함에 있어서, 0과 매우 정밀하게 근접한 값을 표현하려다 결국 표현하지 못하고 결국 0으로 표현하는 것이라고 배웠습니다.
실제로 checked를 사용해서 MinValue에서 -1을 했을 때 System.OverflowException이 발생했습니다.
소수의 경우 MaxValue에서 아무리 큰 값을 더해도 오버플로우를 검출할 수는 없었지만 소수가 표현할 수 있는 가장 작은 양수값인 Epsilon에 아주 작은 수를 빼서 0으로 출력하게끔 만들기도 했습니다.
소수가 0으로 출력되는 경우는 checked를 사용해도 예외를 던지지 않았으므로 오버플로우인지 언더플로우인지 알 수 없었습니다.
이번에는 제가 구현한 코드입니다.
public static void Main()
{
float f = float.Epsilon; // float이 표현 가능한 최소한의 양수
checked
{
f -= (float)0.000000000000000000000000000000000000000000001; // 매우 작은 양수 값을 빼서 더 정밀한 값을 저장
} // 더 정밀한 값을 표현하지 못하지만 예외가 발생하지 않는다.
Console.WriteLine(f); // 표현을 못해서 0으로 표현
sbyte sb = -128; // sbyte가 표현 가능한 최소값
checked
{
sb -= 1; // OverflowException 발생
}
Console.WriteLine(sb);
}
컴퓨터 구조 책에도 오버플로우는 덧셈 연산을 했을 때 발생하는 오버플로우와 뺄셈 연산을 했을 때 발생하는 오버플로우 두가지 상황을 설명하고 있습니다.
실수에서는 오버플로우와 언더플로우 모두 발생할 수 있으며, 음수 Epsilon에서 아주 정밀한 값을 더하여 0이 되는 현상을 음수 언더플로우, 양수 Epsilon에서 아주 정밀한 값을 빼서 0이되는 현상을 양수 언더플로우라고 설명하고 있습니다.
적어도 정수의 경우 MinValue에서 -1을 하여 MaxValue로 변하는 경우도 오버플로우라고 적혀야 하지 않나 생각합니다.
그리고 소수의 오버플로우를 검출하는 방법도 궁금합니다.
[연관 글]
[최초 등록일: ]
[최종 수정일: 7/26/2018]