Microsoft MVP성태의 닷넷 이야기
.NET Framework: 540. C# - 부동 소수 계산 왜 이렇게 나오죠? (2) [링크 복사], [링크+제목 복사],
조회: 18349
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 1개 있습니다.)
(시리즈 글이 8개 있습니다.)
.NET Framework: 539. C# - 부동 소수 계산 왜 이렇게 나오죠? (1)
; https://www.sysnet.pe.kr/2/0/10872

.NET Framework: 540. C# - 부동 소수 계산 왜 이렇게 나오죠? (2)
; https://www.sysnet.pe.kr/2/0/10873

.NET Framework: 608. double 값을 구할 때는 반드시 피연산자를 double로 형변환!
; https://www.sysnet.pe.kr/2/0/11055

개발 환경 구성: 440. C#, C++ - double의 Infinity, NaN 표현 방식
; https://www.sysnet.pe.kr/2/0/11896

기타: 85. 단정도/배정도 부동 소수점의 정밀도(Precision)에 따른 형변환 손실
; https://www.sysnet.pe.kr/2/0/13212

닷넷: 2257. C# - float (단정도 실수) 저장소의 비트 구조
; https://www.sysnet.pe.kr/2/0/13617

닷넷: 2258. C# - double (배정도 실수) 저장소의 비트 구조
; https://www.sysnet.pe.kr/2/0/13618

닷넷: 2259. C# - decimal 저장소의 비트 구조
; https://www.sysnet.pe.kr/2/0/13619




C# - 부동 소수 계산 왜 이렇게 나오죠? (2)

지난번 글에서,

C# - 부동 소수 계산 왜 이렇게 나오죠? (1)
; https://www.sysnet.pe.kr/2/0/10872

약간 부족한 점이 있습니다. 그렇다면 왜 C++ (범위를 좁히겠습니다. Visual Studio 2015의 Visual C++)에서는 2개의 코드 결과값이 모두 13으로 나오느냐는 것입니다.

사실, 이것도 Visual C++로 코드 작성하고 disassembly 창을 통해 생성된 기계어를 보면 알 수 있습니다. 현재 Visual Studio 2015의 C++ 컴파일러는 다음과 같은 기계어를 생성합니다.

    float a = 10.0f;
008B17BE  movss       xmm0,dword ptr ds:[8B6B38h]  
008B17C6  movss       dword ptr [a],xmm0  
    float b = 1.3f;
008B17CB  movss       xmm0,dword ptr ds:[8B6B34h]  
008B17D3  movss       dword ptr [b],xmm0  

    int c = (int)(a * b);
008B17D8  movss       xmm0,dword ptr [a]  

    int c = (int)(a * b);
008B17DD  mulss       xmm0,dword ptr [b]  
008B17E2  cvttss2si   eax,xmm0  
008B17E6  mov         dword ptr [c],eax  

    float a = 10.0f;
00CC167E  movss       xmm0,dword ptr ds:[0CC6B34h]  
00CC1686  movss       dword ptr [a],xmm0  
    float b = 1.3f;
00CC168B  movss       xmm0,dword ptr ds:[0CC6B30h]  
00CC1693  movss       dword ptr [b],xmm0  

    int c3 = (int)(float)(a * b);
00CC1698  movss       xmm0,dword ptr [a]  

    int c3 = (int)(float)(a * b);
00CC169D  mulss       xmm0,dword ptr [b]  
00CC16A2  cvttss2si   eax,xmm0  
00CC16A6  mov         dword ptr [c3],eax  

오호... 명령어 셋이 틀리군요. 그건 둘째치고, 보니까 (float) 형변환 했을 때의 기계어와 하지 않았을 때의 기계어가 다르지 않습니다. 일단 이것으로 동일한 결과를 내는 이유가 설명됩니다. C++에서는 (float) 형변환 연산자는 무시해 버리는 것입니다.

하지만 그렇게 해도 괜찮은 이유가 있습니다. 128비트 xmm0 레지스터에 movss 명령어를 통해 4바이트 float 단정도 부동 소수점의 값을 넣고 있는데, 이런 경우 128비트 xmm0 레지스터는 4개의 32비트로 나뉘어 movss에서 지정한 4바이트 메모리 영역으로부터 직접 값을 받아들입니다. 애당초 4바이트로 끝내고 있기 때문에 (float) 형변환 연산자를 굳이 적용해야 할 필요가 없었던 것입니다.

그럼, C#도... 아니 닷넷 JIT 컴파일러도 이렇게 해줬어야 하는 거 아니냐는 의견이 나올 수 있습니다.

여기서 제가 ... ^^; CLR 개발자 측에 실망스러운 것이 하나 발견되었는데요. 원래 CLR의 장점 중 하나가 런타임 시에 해당 컴퓨팅 환경을 보고 그에 맞는 최적의 CPU 기계어를 생성해 준다고 했기 때문입니다.

위의 Visual C++에서 출력된 movss/mulss 명령은 새롭게 SSE(Streaming SIMD Extensions)를 구현한 CPU에서만 지원되는 명령어입니다. 즉, Visual C++는 이것을 적용한 기계어가 생성된 것이고, 반면 닷넷 JIT 컴파일러는 예전의 구형 기계어 명령을 이용한 결과를 출력한 것입니다.

이에 대해서는 몇 가지 더 재미있는 점이 있습니다.

닷넷 JIT 컴파일러는 x86과 x64가 다른데요. 일반적으로 x64가 더 최적화된 결과를 내주는 것으로 알려져 있습니다. 실제로, 문제가 되었던 이번 예제를 x64로 빌드해서 실행해 보면 동일하게 모두 13 값이 나오고 기계어 코드 역시 다음에서 보는 것처럼 SSE를 이용하는 코드를 생성해 줍니다.

// x64 닷넷 JIT 컴파일러가 출력한 기계어
            float a = 10f;
00007FF8144F04B6  vmovss      xmm0,dword ptr [7FF8144F0518h]  
00007FF8144F04BF  vmovss      dword ptr [rbp+34h],xmm0  
            float b = 1.3f;
00007FF8144F04C5  vmovss      xmm0,dword ptr [7FF8144F051Ch]  
00007FF8144F04CE  vmovss      dword ptr [rbp+30h],xmm0  

            int c = (int)(a * b);  // c == 13
00007FF8144F04D4  vmovss      xmm0,dword ptr [rbp+34h]  
00007FF8144F04DA  vmovss      xmm1,dword ptr [rbp+30h]  
00007FF8144F04E0  vmulss      xmm0,xmm0,xmm1  
00007FF8144F04E5  vcvttss2si  ecx,xmm0  
00007FF8144F04EA  mov         dword ptr [rbp+2Ch],ecx  

            int c3 = (int)(float)(a * b);   // c3 == 13
00007FF8144F04ED  vmovss      xmm0,dword ptr [rbp+34h]  
00007FF8144F04F3  vmovss      xmm1,dword ptr [rbp+30h]  
00007FF8144F04F9  vmulss      xmm0,xmm0,xmm1  
00007FF8144F04FE  vcvttss2si  ecx,xmm0  
00007FF8144F0503  mov         dword ptr [rbp+28h],ecx  

결과는 Visual C++과 차이가 나지 않습니다.

이런 차이점은 Visual C++에서도 발생합니다. 프로젝트 속성창에서 다음과 같이 SSE를 사용하지 않겠다고 하면,

cs_float_sse_1.png

x86 C#에서의 결과와 마찬가지로 12, 13의 값이 나오는 기계어 코드가 생성됩니다.

// Visual C++ - 옵션 설정 No Enhanced Instructions (/arch:IA32)

    float a = 10.0f;
009F167E  fld         dword ptr ds:[9F6B34h]  
009F1684  fstp        dword ptr [a]  
    float b = 1.3f;
009F1687  fld         dword ptr ds:[9F6B30h]  
009F168D  fstp        dword ptr [b]  

    int c = (int)(a * b); // c == 12
009F1690  fld         dword ptr [a]  
009F1693  fmul        dword ptr [b]  
009F1696  call        __ftol2_sse (09F1334h)  
009F169B  mov         dword ptr [c],eax  

    int c3 = (int)(float)(a * b); // c3 == 13
009F169E  fld         dword ptr [a]  
009F16A1  fmul        dword ptr [b]  
009F16A4  fstp        dword ptr [ebp-0F4h]  
009F16AA  fld         dword ptr [ebp-0F4h]  
009F16B0  call        __ftol2_sse (09F1334h)  
009F16B5  mov         dword ptr [c3],eax  

그러니까, 부동 소수점 계산은 CPU에 전적으로 의존적이므로 같은 소스코드라도 어떻게 출력될지는 아무도 장담할 수 없습니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 3/22/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2015-11-25 03시11분
[spowner] 좋은 글 감사합니다. 식상할 수도 있는 내용을 이렇게 상세히 풀어주시니 다시한번 존경의 마음이 올라오는군요.
파주가 너무 멀어 얼굴 뵙고 싶어도 쉽지가 않은데... 영업한다고 하고 한번 다녀와야겠습니다 ^^
[guest]
2015-11-25 08시40분
^^ 파주가 겨울이면 더욱 스산한데요, 쉽게 오실 수도 없으니 기왕이면 봄이 좋을 듯합니다.
정성태
2017-11-17 12시10분
부동소수점(float, double) 가지고 놀기
; http://projecteoe.egloos.com/4427399
정성태

... 31  32  33  34  35  36  [37]  38  39  40  41  42  43  44  45  ...
NoWriterDateCnt.TitleFile(s)
12721정성태7/20/20218074오류 유형: 738. The trust relationship between this workstation and the primary domain failed. - 세 번째 이야기
12720정성태7/19/20217426Linux: 43. .NET Core/5+ 응용 프로그램의 Ubuntu (Debian) 패키지 준비
12719정성태7/19/20216617오류 유형: 737. SharePoint 설치 시 "0x800710D8 The object identifier does not represent a valid object." 오류 발생
12718정성태7/19/20217204개발 환경 구성: 581. Windows에서 WSL로 파일 복사 시 root 소유권으로 적용되는 문제파일 다운로드1
12717정성태7/18/20217142Windows: 195. robocopy에서 파일의 ADS(Alternate Data Stream) 정보 복사를 제외하는 방법
12716정성태7/17/20218039개발 환경 구성: 580. msbuild의 Exec Task에 robocopy를 사용하는 방법파일 다운로드1
12715정성태7/17/20219579오류 유형: 736. Windows - MySQL zip 파일 버전의 "mysqld --skip-grant-tables" 실행 시 비정상 종료 [1]
12714정성태7/16/20218381오류 유형: 735. VCRUNTIME140.dll, MSVCP140.dll, VCRUNTIME140.dll, VCRUNTIME140_1.dll이 없어 exe 실행이 안 되는 경우
12713정성태7/16/20218916.NET Framework: 1077. C# - 동기 방식이면서 비동기 규약을 따르게 만드는 Task.FromResult파일 다운로드1
12712정성태7/15/20218338개발 환경 구성: 579. Azure - 리눅스 호스팅의 Site Extension 제작 방법
12711정성태7/15/20218708개발 환경 구성: 578. Azure - Java Web App Service를 위한 Site Extension 제작 방법
12710정성태7/15/202110494개발 환경 구성: 577. MQTT - emqx.io 서비스 소개
12709정성태7/14/20217027Linux: 42. 실행 중인 docker 컨테이너에 대한 구동 시점의 docker run 명령어를 확인하는 방법
12708정성태7/14/202110480Linux: 41. 리눅스 환경에서 디스크 용량 부족 시 원인 분석 방법
12707정성태7/14/202177765오류 유형: 734. MySQL - Authentication method 'caching_sha2_password' not supported by any of the available plugins.
12706정성태7/14/20218900.NET Framework: 1076. C# - AsyncLocal 기능을 CallContext만으로 구현하는 방법 [2]파일 다운로드1
12705정성태7/13/20219075VS.NET IDE: 168. x64 DLL 프로젝트의 컨트롤이 Visual Studio의 Designer에서 보이지 않는 문제 - 두 번째 이야기
12704정성태7/12/20218226개발 환경 구성: 576. Azure VM의 서비스를 Azure Web App Service에서만 접근하도록 NSG 설정을 제한하는 방법
12703정성태7/11/202113921개발 환경 구성: 575. Azure VM에 (ICMP) ping을 허용하는 방법
12702정성태7/11/20219024오류 유형: 733. TaskScheduler에 등록된 wacs.exe의 Let's Encrypt 인증서 업데이트 문제
12701정성태7/9/20218708.NET Framework: 1075. C# - ThreadPool의 스레드는 반환 시 ThreadStatic과 AsyncLocal 값이 초기화 될까요?파일 다운로드1
12700정성태7/8/20219067.NET Framework: 1074. RuntimeType의 메모리 누수? [1]
12699정성태7/8/20217877VS.NET IDE: 167. Visual Studio 디버깅 중 GC Heap 상태를 보여주는 "Show Diagnostic Tools" 메뉴 사용법
12698정성태7/7/202111840오류 유형: 732. Windows 11 업데이트 시 3% 또는 0%에서 다운로드가 멈춘 경우
12697정성태7/7/20217685개발 환경 구성: 574. Windows 11 (Insider Preview) 설치하는 방법
12696정성태7/6/20218310VC++: 146. 운영체제의 스레드 문맥 교환(Context Switch)을 유사하게 구현하는 방법파일 다운로드2
... 31  32  33  34  35  36  [37]  38  39  40  41  42  43  44  45  ...