Microsoft MVP성태의 닷넷 이야기
.NET Framework: 540. C# - 부동 소수 계산 왜 이렇게 나오죠? (2) [링크 복사], [링크+제목 복사],
조회: 25487
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 1개 있습니다.)
(시리즈 글이 8개 있습니다.)
.NET Framework: 539. C# - 부동 소수 계산 왜 이렇게 나오죠? (1)
; https://www.sysnet.pe.kr/2/0/10872

.NET Framework: 540. C# - 부동 소수 계산 왜 이렇게 나오죠? (2)
; https://www.sysnet.pe.kr/2/0/10873

.NET Framework: 608. double 값을 구할 때는 반드시 피연산자를 double로 형변환!
; https://www.sysnet.pe.kr/2/0/11055

개발 환경 구성: 440. C#, C++ - double의 Infinity, NaN 표현 방식
; https://www.sysnet.pe.kr/2/0/11896

기타: 85. 단정도/배정도 부동 소수점의 정밀도(Precision)에 따른 형변환 손실
; https://www.sysnet.pe.kr/2/0/13212

닷넷: 2257. C# - float (단정도 실수) 저장소의 비트 구조
; https://www.sysnet.pe.kr/2/0/13617

닷넷: 2258. C# - double (배정도 실수) 저장소의 비트 구조
; https://www.sysnet.pe.kr/2/0/13618

닷넷: 2259. C# - decimal 저장소의 비트 구조
; https://www.sysnet.pe.kr/2/0/13619




C# - 부동 소수 계산 왜 이렇게 나오죠? (2)

지난번 글에서,

C# - 부동 소수 계산 왜 이렇게 나오죠? (1)
; https://www.sysnet.pe.kr/2/0/10872

약간 부족한 점이 있습니다. 그렇다면 왜 C++ (범위를 좁히겠습니다. Visual Studio 2015의 Visual C++)에서는 2개의 코드 결과값이 모두 13으로 나오느냐는 것입니다.

사실, 이것도 Visual C++로 코드 작성하고 disassembly 창을 통해 생성된 기계어를 보면 알 수 있습니다. 현재 Visual Studio 2015의 C++ 컴파일러는 다음과 같은 기계어를 생성합니다.

    float a = 10.0f;
008B17BE  movss       xmm0,dword ptr ds:[8B6B38h]  
008B17C6  movss       dword ptr [a],xmm0  
    float b = 1.3f;
008B17CB  movss       xmm0,dword ptr ds:[8B6B34h]  
008B17D3  movss       dword ptr [b],xmm0  

    int c = (int)(a * b);
008B17D8  movss       xmm0,dword ptr [a]  

    int c = (int)(a * b);
008B17DD  mulss       xmm0,dword ptr [b]  
008B17E2  cvttss2si   eax,xmm0  
008B17E6  mov         dword ptr [c],eax  

    float a = 10.0f;
00CC167E  movss       xmm0,dword ptr ds:[0CC6B34h]  
00CC1686  movss       dword ptr [a],xmm0  
    float b = 1.3f;
00CC168B  movss       xmm0,dword ptr ds:[0CC6B30h]  
00CC1693  movss       dword ptr [b],xmm0  

    int c3 = (int)(float)(a * b);
00CC1698  movss       xmm0,dword ptr [a]  

    int c3 = (int)(float)(a * b);
00CC169D  mulss       xmm0,dword ptr [b]  
00CC16A2  cvttss2si   eax,xmm0  
00CC16A6  mov         dword ptr [c3],eax  

오호... 명령어 셋이 틀리군요. 그건 둘째치고, 보니까 (float) 형변환 했을 때의 기계어와 하지 않았을 때의 기계어가 다르지 않습니다. 일단 이것으로 동일한 결과를 내는 이유가 설명됩니다. C++에서는 (float) 형변환 연산자는 무시해 버리는 것입니다.

하지만 그렇게 해도 괜찮은 이유가 있습니다. 128비트 xmm0 레지스터에 movss 명령어를 통해 4바이트 float 단정도 부동 소수점의 값을 넣고 있는데, 이런 경우 128비트 xmm0 레지스터는 4개의 32비트로 나뉘어 movss에서 지정한 4바이트 메모리 영역으로부터 직접 값을 받아들입니다. 애당초 4바이트로 끝내고 있기 때문에 (float) 형변환 연산자를 굳이 적용해야 할 필요가 없었던 것입니다.

그럼, C#도... 아니 닷넷 JIT 컴파일러도 이렇게 해줬어야 하는 거 아니냐는 의견이 나올 수 있습니다.

여기서 제가 ... ^^; CLR 개발자 측에 실망스러운 것이 하나 발견되었는데요. 원래 CLR의 장점 중 하나가 런타임 시에 해당 컴퓨팅 환경을 보고 그에 맞는 최적의 CPU 기계어를 생성해 준다고 했기 때문입니다.

위의 Visual C++에서 출력된 movss/mulss 명령은 새롭게 SSE(Streaming SIMD Extensions)를 구현한 CPU에서만 지원되는 명령어입니다. 즉, Visual C++는 이것을 적용한 기계어가 생성된 것이고, 반면 닷넷 JIT 컴파일러는 예전의 구형 기계어 명령을 이용한 결과를 출력한 것입니다.

이에 대해서는 몇 가지 더 재미있는 점이 있습니다.

닷넷 JIT 컴파일러는 x86과 x64가 다른데요. 일반적으로 x64가 더 최적화된 결과를 내주는 것으로 알려져 있습니다. 실제로, 문제가 되었던 이번 예제를 x64로 빌드해서 실행해 보면 동일하게 모두 13 값이 나오고 기계어 코드 역시 다음에서 보는 것처럼 SSE를 이용하는 코드를 생성해 줍니다.

// x64 닷넷 JIT 컴파일러가 출력한 기계어
            float a = 10f;
00007FF8144F04B6  vmovss      xmm0,dword ptr [7FF8144F0518h]  
00007FF8144F04BF  vmovss      dword ptr [rbp+34h],xmm0  
            float b = 1.3f;
00007FF8144F04C5  vmovss      xmm0,dword ptr [7FF8144F051Ch]  
00007FF8144F04CE  vmovss      dword ptr [rbp+30h],xmm0  

            int c = (int)(a * b);  // c == 13
00007FF8144F04D4  vmovss      xmm0,dword ptr [rbp+34h]  
00007FF8144F04DA  vmovss      xmm1,dword ptr [rbp+30h]  
00007FF8144F04E0  vmulss      xmm0,xmm0,xmm1  
00007FF8144F04E5  vcvttss2si  ecx,xmm0  
00007FF8144F04EA  mov         dword ptr [rbp+2Ch],ecx  

            int c3 = (int)(float)(a * b);   // c3 == 13
00007FF8144F04ED  vmovss      xmm0,dword ptr [rbp+34h]  
00007FF8144F04F3  vmovss      xmm1,dword ptr [rbp+30h]  
00007FF8144F04F9  vmulss      xmm0,xmm0,xmm1  
00007FF8144F04FE  vcvttss2si  ecx,xmm0  
00007FF8144F0503  mov         dword ptr [rbp+28h],ecx  

결과는 Visual C++과 차이가 나지 않습니다.

이런 차이점은 Visual C++에서도 발생합니다. 프로젝트 속성창에서 다음과 같이 SSE를 사용하지 않겠다고 하면,

cs_float_sse_1.png

x86 C#에서의 결과와 마찬가지로 12, 13의 값이 나오는 기계어 코드가 생성됩니다.

// Visual C++ - 옵션 설정 No Enhanced Instructions (/arch:IA32)

    float a = 10.0f;
009F167E  fld         dword ptr ds:[9F6B34h]  
009F1684  fstp        dword ptr [a]  
    float b = 1.3f;
009F1687  fld         dword ptr ds:[9F6B30h]  
009F168D  fstp        dword ptr [b]  

    int c = (int)(a * b); // c == 12
009F1690  fld         dword ptr [a]  
009F1693  fmul        dword ptr [b]  
009F1696  call        __ftol2_sse (09F1334h)  
009F169B  mov         dword ptr [c],eax  

    int c3 = (int)(float)(a * b); // c3 == 13
009F169E  fld         dword ptr [a]  
009F16A1  fmul        dword ptr [b]  
009F16A4  fstp        dword ptr [ebp-0F4h]  
009F16AA  fld         dword ptr [ebp-0F4h]  
009F16B0  call        __ftol2_sse (09F1334h)  
009F16B5  mov         dword ptr [c3],eax  

그러니까, 부동 소수점 계산은 CPU에 전적으로 의존적이므로 같은 소스코드라도 어떻게 출력될지는 아무도 장담할 수 없습니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 3/22/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2015-11-25 03시11분
[spowner] 좋은 글 감사합니다. 식상할 수도 있는 내용을 이렇게 상세히 풀어주시니 다시한번 존경의 마음이 올라오는군요.
파주가 너무 멀어 얼굴 뵙고 싶어도 쉽지가 않은데... 영업한다고 하고 한번 다녀와야겠습니다 ^^
[guest]
2015-11-25 08시40분
^^ 파주가 겨울이면 더욱 스산한데요, 쉽게 오실 수도 없으니 기왕이면 봄이 좋을 듯합니다.
정성태
2017-11-17 12시10분
부동소수점(float, double) 가지고 놀기
; http://projecteoe.egloos.com/4427399
정성태

... [106]  107  108  109  110  111  112  113  114  115  116  117  118  119  120  ...
NoWriterDateCnt.TitleFile(s)
11274정성태8/22/201719417.NET Framework: 674. Thread 타입의 Suspend/Resume/Join 사용 관련 예외 처리
11273정성태8/22/201721634오류 유형: 415. 윈도우 업데이트 에러 Error 0x80070643
11272정성태8/21/201724831VS.NET IDE: 120. 비주얼 스튜디오 2017 버전 15.3.1 - C# 7.1 공개 [2]
11271정성태8/19/201719269VS.NET IDE: 119. Visual Studio 2017에서 .NET Core 2.0 프로젝트 환경 구성하는 방법
11270정성태8/17/201730740.NET Framework: 673. C#에서 enum을 boxing 없이 int로 변환하기 [2]
11269정성태8/17/201721508디버깅 기술: 93. windbg - 풀 덤프에서 .NET 스레드의 상태를 알아내는 방법
11268정성태8/14/201721097디버깅 기술: 92. windbg - C# Monitor Lock을 획득하고 있는 스레드 찾는 방법
11267정성태8/10/201725160.NET Framework: 672. 모노 개발 환경
11266정성태8/10/201724975.NET Framework: 671. C# 6.0 이상의 소스 코드를 Visual Studio 설치 없이 명령행에서 컴파일하는 방법
11265정성태8/10/201753207기타: 66. 도서: 시작하세요! C# 7.1 프로그래밍: 기본 문법부터 실전 예제까지 [11]
11264정성태8/9/201724156오류 유형: 414. UWP app을 signtool.exe로 서명 시 0x8007000b 오류 발생
11263정성태8/9/201719622오류 유형: 413. The C# project "..." is targeting ".NETFramework, Version=v4.0", which is not installed on this machine. [3]
11262정성태8/5/201718262오류 유형: 412. windbg - SOS does not support the current target architecture. [3]
11261정성태8/4/201720838디버깅 기술: 91. windbg - 풀 덤프 파일로부터 강력한 이름의 어셈블리 추출 후 사용하는 방법
11260정성태8/3/201718961.NET Framework: 670. C# - 실행 파일로부터 공개키를 추출하는 방법
11259정성태8/2/201718196.NET Framework: 669. 지연 서명된 어셈블리를 sn.exe -Vr 등록 없이 사용하는 방법
11258정성태8/1/201719038.NET Framework: 668. 지연 서명된 DLL과 서명된 DLL의 차이점파일 다운로드1
11257정성태7/31/201719184.NET Framework: 667. bypassTrustedAppStrongNames 옵션 설명파일 다운로드1
11256정성태7/25/201720665디버깅 기술: 90. windbg의 lm 명령으로 보이지 않는 .NET 4.0 ClassLibrary를 명시적으로 로드하는 방법 [1]
11255정성태7/18/201723225디버깅 기술: 89. Win32 Debug CRT Heap Internals의 0xBAADF00D 표시 재현 [1]파일 다운로드3
11254정성태7/17/201719603개발 환경 구성: 322. "Visual Studio Emulator for Android" 에뮬레이터를 "Android Studio"와 함께 쓰는 방법
11253정성태7/17/201719975Math: 21. "Coding the Matrix" 문제 2.5.1 풀이 [1]파일 다운로드1
11252정성태7/13/201718470오류 유형: 411. RTVS 또는 PTVS 실행 시 Could not load type 'Microsoft.VisualStudio.InteractiveWindow.Shell.IVsInteractiveWindowFactory2'
11251정성태7/13/201717182디버깅 기술: 88. windbg 분석 - webengine4.dll의 MgdExplicitFlush에서 발생한 System.AccessViolationException의 crash 문제 (2)
11250정성태7/13/201720736디버깅 기술: 87. windbg 분석 - webengine4.dll의 MgdExplicitFlush에서 발생한 System.AccessViolationException의 crash 문제 [1]
11249정성태7/12/201718561오류 유형: 410. LoadLibrary("[...].dll") failed - The specified procedure could not be found.
... [106]  107  108  109  110  111  112  113  114  115  116  117  118  119  120  ...