Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 

(시리즈 글이 5개 있습니다.)
.NET Framework: 539. C# - 부동 소수 계산 왜 이렇게 나오죠? (1)
; https://www.sysnet.pe.kr/2/0/10872

.NET Framework: 540. C# - 부동 소수 계산 왜 이렇게 나오죠? (2)
; https://www.sysnet.pe.kr/2/0/10873

.NET Framework: 608. double 값을 구할 때는 반드시 피연산자를 double로 형변환!
; https://www.sysnet.pe.kr/2/0/11055

개발 환경 구성: 440. C#, C++ - double의 Infinity, NaN 표현 방식
; https://www.sysnet.pe.kr/2/0/11896

기타: 85. 단정도/배정도 부동 소수점의 정밀도(Precision)에 따른 형변환 손실
; https://www.sysnet.pe.kr/2/0/13212




double 값을 구할 때는 반드시 피연산자를 double로 형변환!

C++로 먼저 알아볼까요? ^^

double t = 1.0f / 3;
printf("%0.15Lf\n", t);

float 32비트 단정도 실수를 정수형 변수로 나누고 그 결과는 double에 담기기 때문에 왠지 배정도 실수로 연산이 될 듯하지만... 의외로 결과는 "0.333333343267441"로 나옵니다. 짐작할 수 있겠지만, 다음과 같이 (double)로 식을 강제로 형 변환해도,

double t2 = (double)(1.0f / 3);
printf("%0.15Lf\n", t2);

역시나 결과는 "0.333333343267441"로 나옵니다.

정확히 하려면, 피연산자 중 하나는 반드시 double로 처리해야 합니다.

double t3 = 1.0L / 3;  // 1.0을 명시적으로 double literal로 처리.
printf("%0.15Lf\n", t3); // 출력 결과: 0.333333333333333

double t4 = 1.0f / (double)3; // 3을 명시적으로 double로 형변환
printf("%0.15Lf\n", t4); // 출력 결과: 0.333333333333333

아니면, 그냥 1.0이라고만 하면 C++ 컴파일러가 실수형 상수에 대해 기본적으로 double로 처리하기 때문에 정확한 결과가 나옵니다.

double t5 = 1.0 / 3;
printf("%0.15Lf\n", t5); // 출력 결과: 0.333333333333333




이것은 C#에서도 동일하게 적용됩니다. 피연산자 중에 double 형이 없다면 다음과 같이 단정도 실수의 정확성만 갖게 됩니다.

double t = 1.0F / 3;
Console.WriteLine(t); // 0.333333343267441

double t2 = (double)(1.0F / 3);
Console.WriteLine(t2); // 0.333333343267441

정확한 결과를 내려면 피연산자 중 적어도 하나는 double 형이거나,

double t3 = 1.0d / 3;
Console.WriteLine(t3); // 0.333333333333333

double t4 = 1.0F / (double)3;
Console.WriteLine(t4); // 0.333333333333333

C++에서와 마찬가지로 그냥 C# 컴파일러가 알아서 1.0을 double로 처리하도록 두면 됩니다.

double t5 = 1.0 / 3;
Console.WriteLine(t5); // 0.333333333333333




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 10/11/2016]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2016-10-11 05시55분
[정환나라] 제목 : 'dobule' 값을 구할 때는.. -> 'double' 값을 구할 때는..
[guest]
2016-10-11 06시19분
@정환나라 님 감사합니다. ^^ 근래에는 제가 글 올리기 전에 본문을 네이버 맞춤법 검사기로 돌려보곤 하는데, 제목을 빼먹어서 이런 사태가 발생하는군요. ^^;;;
정성태
2016-11-18 05시25분
[spowner] 다음과 같은 간단한 테스트 코드를 만들었습니다.

            var v = 19.99d;
            var v2 = v * 100d;
            var v3 = (ushort)(v2);
            var v4 = Convert.ToUInt16(v2);
            Console.WriteLine($"{v}, {v2}, {v3}, {v4}");

v2는 double형 이지만 분명히 소숫점 이하 값은 없는데요.. 왜 v3 값과 v4의 값이 다른지 알수가 없습니다 ^^;
[guest]
2016-11-18 01시45분
@spowner v2가 왜 소수점 이하 값이 없죠? ^^

그리고 (ushort)로 강제 형변환 했을 때는 소수점 이하 값을 버리고, ToUInt16같은 메서드는 소수점 이하 값을 반올림하기 때문에 그런 차이가 있는 것입니다.

그리고 v2 값이 정수로 나오는 것은 WriteLine에서 v2.ToString()을 호출한 결괏값을 보여주는 것이고, double.ToString()은 double.ToString(null)을, 다시 ToString(null)은 ToString("G") 포맷의 출력과 같습니다.
정성태
2016-11-22 06시16분
[spowner] @정성태님 감사합니다. double형의 이해가 없어서 생긴 문제였네요. 부끄럽지만.. 감사드립니다 ^^
[guest]
2016-11-22 07시40분
@spowner 질문하신 덕분에, 저도 ToXIntXX 류의 메서드가 반올림한다는 사실을 알게 되었습니다. ^^
정성태

1  2  [3]  4  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13562정성태2/21/20241986오류 유형: 896. ASP.NET - .NET Framework 기본 예제에서 System.Web에 대한 System.IO.FileNotFoundException 예외 발생
13561정성태2/20/20242065닷넷: 2218. C# - (예를 들어, Socket) 비동기 I/O에 대한 await 호출 시 CancellationToken을 이용한 취소파일 다운로드1
13560정성태2/19/20242096디버깅 기술: 195. windbg 분석 사례 - Semaphore 잠금으로 인한 Hang 현상 (닷넷)
13559정성태2/19/20242945오류 유형: 895. ASP.NET - System.Security.SecurityException: 'Requested registry access is not allowed.'
13558정성태2/18/20242181닷넷: 2217. C# - 최댓값이 1인 SemaphoreSlim 보다 Mutex 또는 lock(obj)를 선택하는 것이 나은 이유
13557정성태2/18/20241921Windows: 258. Task Scheduler의 Author 속성 값을 변경하는 방법
13556정성태2/17/20241976Windows: 257. Windows - Symbolic (hard/soft) Link 및 Junction 차이점
13555정성태2/15/20242122닷넷: 2216. C# - SemaphoreSlim 사용 시 주의점
13554정성태2/15/20241862VS.NET IDE: 189. Visual Studio - 닷넷 소스코드 디컴파일 찾기가 안 될 때
13553정성태2/14/20241945닷넷: 2215. windbg - thin/fat lock 없이 동작하는 Monitor.Wait + Pulse
13552정성태2/13/20241897닷넷: 2214. windbg - Monitor.Enter의 thin lock과 fat lock
13551정성태2/12/20242093닷넷: 2213. ASP.NET/Core 웹 응용 프로그램 - 2차 스레드의 예외로 인한 비정상 종료
13550정성태2/11/20242209Windows: 256. C# - Server socket이 닫히면 Accept 시켰던 자식 소켓이 닫힐까요?
13549정성태2/3/20242509개발 환경 구성: 706. C# - 컨테이너에서 실행하기 위한 (소켓) 콘솔 프로젝트 구성
13548정성태2/1/20242338개발 환경 구성: 705. "Docker Desktop for Windows" - ASP.NET Core 응용 프로그램의 소켓 주소 바인딩(IPv4/IPv6 loopback, Any)
13547정성태1/31/20242088개발 환경 구성: 704. Visual Studio - .NET 8 프로젝트부터 dockerfile에 추가된 "USER app" 설정
13546정성태1/30/20241954Windows: 255. (디버거의 영향 등으로) 대상 프로세스가 멈추면 Socket KeepAlive로 연결이 끊길까요?
13545정성태1/30/20241863닷넷: 2212. ASP.NET Core - 우선순위에 따른 HTTP/HTTPS 호스트:포트 바인딩 방법
13544정성태1/30/20241886오류 유형: 894. Microsoft.Data.SqlClient - Could not load file or assembly 'System.Security.Permissions, ...'
13543정성태1/30/20241918Windows: 254. Windows - 기본 사용 중인 5357 포트 비활성화는 방법
13542정성태1/30/20241920오류 유형: 893. Visual Studio - Web Application을 실행하지 못하는 IISExpress - 두 번째 이야기
13541정성태1/29/20241977VS.NET IDE: 188. launchSettings.json의 useSSL 옵션
13540정성태1/29/20242083Linux: 69. 리눅스 - "Docker Desktop for Windows" Container 환경에서 IPv6 Loopback Address 바인딩 오류
13539정성태1/26/20242369개발 환경 구성: 703. Visual Studio - launchSettings.json을 이용한 HTTP/HTTPS 포트 바인딩
13538정성태1/25/20242420닷넷: 2211. C# - NonGC(FOH) 영역에 .NET 개체를 생성파일 다운로드1
13537정성태1/24/20242523닷넷: 2210. C# - Native 메모리에 .NET 개체를 생성파일 다운로드1
1  2  [3]  4  5  6  7  8  9  10  11  12  13  14  15  ...