Microsoft MVP성태의 닷넷 이야기
.NET Framework: 540. C# - 부동 소수 계산 왜 이렇게 나오죠? (2) [링크 복사], [링크+제목 복사],
조회: 25507
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
(연관된 글이 1개 있습니다.)
(시리즈 글이 8개 있습니다.)
.NET Framework: 539. C# - 부동 소수 계산 왜 이렇게 나오죠? (1)
; https://www.sysnet.pe.kr/2/0/10872

.NET Framework: 540. C# - 부동 소수 계산 왜 이렇게 나오죠? (2)
; https://www.sysnet.pe.kr/2/0/10873

.NET Framework: 608. double 값을 구할 때는 반드시 피연산자를 double로 형변환!
; https://www.sysnet.pe.kr/2/0/11055

개발 환경 구성: 440. C#, C++ - double의 Infinity, NaN 표현 방식
; https://www.sysnet.pe.kr/2/0/11896

기타: 85. 단정도/배정도 부동 소수점의 정밀도(Precision)에 따른 형변환 손실
; https://www.sysnet.pe.kr/2/0/13212

닷넷: 2257. C# - float (단정도 실수) 저장소의 비트 구조
; https://www.sysnet.pe.kr/2/0/13617

닷넷: 2258. C# - double (배정도 실수) 저장소의 비트 구조
; https://www.sysnet.pe.kr/2/0/13618

닷넷: 2259. C# - decimal 저장소의 비트 구조
; https://www.sysnet.pe.kr/2/0/13619




C# - 부동 소수 계산 왜 이렇게 나오죠? (2)

지난번 글에서,

C# - 부동 소수 계산 왜 이렇게 나오죠? (1)
; https://www.sysnet.pe.kr/2/0/10872

약간 부족한 점이 있습니다. 그렇다면 왜 C++ (범위를 좁히겠습니다. Visual Studio 2015의 Visual C++)에서는 2개의 코드 결과값이 모두 13으로 나오느냐는 것입니다.

사실, 이것도 Visual C++로 코드 작성하고 disassembly 창을 통해 생성된 기계어를 보면 알 수 있습니다. 현재 Visual Studio 2015의 C++ 컴파일러는 다음과 같은 기계어를 생성합니다.

    float a = 10.0f;
008B17BE  movss       xmm0,dword ptr ds:[8B6B38h]  
008B17C6  movss       dword ptr [a],xmm0  
    float b = 1.3f;
008B17CB  movss       xmm0,dword ptr ds:[8B6B34h]  
008B17D3  movss       dword ptr [b],xmm0  

    int c = (int)(a * b);
008B17D8  movss       xmm0,dword ptr [a]  

    int c = (int)(a * b);
008B17DD  mulss       xmm0,dword ptr [b]  
008B17E2  cvttss2si   eax,xmm0  
008B17E6  mov         dword ptr [c],eax  

    float a = 10.0f;
00CC167E  movss       xmm0,dword ptr ds:[0CC6B34h]  
00CC1686  movss       dword ptr [a],xmm0  
    float b = 1.3f;
00CC168B  movss       xmm0,dword ptr ds:[0CC6B30h]  
00CC1693  movss       dword ptr [b],xmm0  

    int c3 = (int)(float)(a * b);
00CC1698  movss       xmm0,dword ptr [a]  

    int c3 = (int)(float)(a * b);
00CC169D  mulss       xmm0,dword ptr [b]  
00CC16A2  cvttss2si   eax,xmm0  
00CC16A6  mov         dword ptr [c3],eax  

오호... 명령어 셋이 틀리군요. 그건 둘째치고, 보니까 (float) 형변환 했을 때의 기계어와 하지 않았을 때의 기계어가 다르지 않습니다. 일단 이것으로 동일한 결과를 내는 이유가 설명됩니다. C++에서는 (float) 형변환 연산자는 무시해 버리는 것입니다.

하지만 그렇게 해도 괜찮은 이유가 있습니다. 128비트 xmm0 레지스터에 movss 명령어를 통해 4바이트 float 단정도 부동 소수점의 값을 넣고 있는데, 이런 경우 128비트 xmm0 레지스터는 4개의 32비트로 나뉘어 movss에서 지정한 4바이트 메모리 영역으로부터 직접 값을 받아들입니다. 애당초 4바이트로 끝내고 있기 때문에 (float) 형변환 연산자를 굳이 적용해야 할 필요가 없었던 것입니다.

그럼, C#도... 아니 닷넷 JIT 컴파일러도 이렇게 해줬어야 하는 거 아니냐는 의견이 나올 수 있습니다.

여기서 제가 ... ^^; CLR 개발자 측에 실망스러운 것이 하나 발견되었는데요. 원래 CLR의 장점 중 하나가 런타임 시에 해당 컴퓨팅 환경을 보고 그에 맞는 최적의 CPU 기계어를 생성해 준다고 했기 때문입니다.

위의 Visual C++에서 출력된 movss/mulss 명령은 새롭게 SSE(Streaming SIMD Extensions)를 구현한 CPU에서만 지원되는 명령어입니다. 즉, Visual C++는 이것을 적용한 기계어가 생성된 것이고, 반면 닷넷 JIT 컴파일러는 예전의 구형 기계어 명령을 이용한 결과를 출력한 것입니다.

이에 대해서는 몇 가지 더 재미있는 점이 있습니다.

닷넷 JIT 컴파일러는 x86과 x64가 다른데요. 일반적으로 x64가 더 최적화된 결과를 내주는 것으로 알려져 있습니다. 실제로, 문제가 되었던 이번 예제를 x64로 빌드해서 실행해 보면 동일하게 모두 13 값이 나오고 기계어 코드 역시 다음에서 보는 것처럼 SSE를 이용하는 코드를 생성해 줍니다.

// x64 닷넷 JIT 컴파일러가 출력한 기계어
            float a = 10f;
00007FF8144F04B6  vmovss      xmm0,dword ptr [7FF8144F0518h]  
00007FF8144F04BF  vmovss      dword ptr [rbp+34h],xmm0  
            float b = 1.3f;
00007FF8144F04C5  vmovss      xmm0,dword ptr [7FF8144F051Ch]  
00007FF8144F04CE  vmovss      dword ptr [rbp+30h],xmm0  

            int c = (int)(a * b);  // c == 13
00007FF8144F04D4  vmovss      xmm0,dword ptr [rbp+34h]  
00007FF8144F04DA  vmovss      xmm1,dword ptr [rbp+30h]  
00007FF8144F04E0  vmulss      xmm0,xmm0,xmm1  
00007FF8144F04E5  vcvttss2si  ecx,xmm0  
00007FF8144F04EA  mov         dword ptr [rbp+2Ch],ecx  

            int c3 = (int)(float)(a * b);   // c3 == 13
00007FF8144F04ED  vmovss      xmm0,dword ptr [rbp+34h]  
00007FF8144F04F3  vmovss      xmm1,dword ptr [rbp+30h]  
00007FF8144F04F9  vmulss      xmm0,xmm0,xmm1  
00007FF8144F04FE  vcvttss2si  ecx,xmm0  
00007FF8144F0503  mov         dword ptr [rbp+28h],ecx  

결과는 Visual C++과 차이가 나지 않습니다.

이런 차이점은 Visual C++에서도 발생합니다. 프로젝트 속성창에서 다음과 같이 SSE를 사용하지 않겠다고 하면,

cs_float_sse_1.png

x86 C#에서의 결과와 마찬가지로 12, 13의 값이 나오는 기계어 코드가 생성됩니다.

// Visual C++ - 옵션 설정 No Enhanced Instructions (/arch:IA32)

    float a = 10.0f;
009F167E  fld         dword ptr ds:[9F6B34h]  
009F1684  fstp        dword ptr [a]  
    float b = 1.3f;
009F1687  fld         dword ptr ds:[9F6B30h]  
009F168D  fstp        dword ptr [b]  

    int c = (int)(a * b); // c == 12
009F1690  fld         dword ptr [a]  
009F1693  fmul        dword ptr [b]  
009F1696  call        __ftol2_sse (09F1334h)  
009F169B  mov         dword ptr [c],eax  

    int c3 = (int)(float)(a * b); // c3 == 13
009F169E  fld         dword ptr [a]  
009F16A1  fmul        dword ptr [b]  
009F16A4  fstp        dword ptr [ebp-0F4h]  
009F16AA  fld         dword ptr [ebp-0F4h]  
009F16B0  call        __ftol2_sse (09F1334h)  
009F16B5  mov         dword ptr [c3],eax  

그러니까, 부동 소수점 계산은 CPU에 전적으로 의존적이므로 같은 소스코드라도 어떻게 출력될지는 아무도 장담할 수 없습니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 3/22/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2015-11-25 03시11분
[spowner] 좋은 글 감사합니다. 식상할 수도 있는 내용을 이렇게 상세히 풀어주시니 다시한번 존경의 마음이 올라오는군요.
파주가 너무 멀어 얼굴 뵙고 싶어도 쉽지가 않은데... 영업한다고 하고 한번 다녀와야겠습니다 ^^
[guest]
2015-11-25 08시40분
^^ 파주가 겨울이면 더욱 스산한데요, 쉽게 오실 수도 없으니 기왕이면 봄이 좋을 듯합니다.
정성태
2017-11-17 12시10분
부동소수점(float, double) 가지고 놀기
; http://projecteoe.egloos.com/4427399
정성태

... 106  [107]  108  109  110  111  112  113  114  115  116  117  118  119  120  ...
NoWriterDateCnt.TitleFile(s)
11250정성태7/13/201720838디버깅 기술: 87. windbg 분석 - webengine4.dll의 MgdExplicitFlush에서 발생한 System.AccessViolationException의 crash 문제 [1]
11249정성태7/12/201718634오류 유형: 410. LoadLibrary("[...].dll") failed - The specified procedure could not be found.
11248정성태7/12/201725103오류 유형: 409. pip install pefile - 'cp949' codec can't decode byte 0xe2 in position 208687: illegal multibyte sequence
11247정성태7/12/201719499오류 유형: 408. SqlConnection 객체 생성 시 무한 대기 문제파일 다운로드1
11246정성태7/11/201718196VS.NET IDE: 118. Visual Studio - 다중 폴더에 포함된 파일들에 대한 "Copy to Output Directory"를 한 번에 설정하는 방법
11245정성태7/10/201723789개발 환경 구성: 321. Visual Studio Emulator for Android 소개 [2]
11244정성태7/10/201723367오류 유형: 407. Visual Studio에서 ASP.NET Core 실행할 때 dotnet.exe 프로세스의 -532462766 오류 발생 [1]
11243정성태7/10/201720072.NET Framework: 666. dotnet.exe - 윈도우 운영체제에서의 .NET Core 버전 찾기 규칙
11242정성태7/8/201720308제니퍼 .NET: 27. 제니퍼 닷넷 적용 사례 (7) - 노후된 스토리지 장비로 인한 웹 서비스 Hang (멈춤) 현상
11241정성태7/8/201719044오류 유형: 406. Xamarin 빌드 에러 XA5209, APT0000
11240정성태7/7/201721977.NET Framework: 665. ClickOnce를 웹 브라우저를 이용하지 않고 쿼리 문자열을 전달하면서 실행하는 방법 [3]파일 다운로드1
11239정성태7/6/201723500.NET Framework: 664. Protocol Handler - 웹 브라우저에서 데스크톱 응용 프로그램을 실행하는 방법 [5]파일 다운로드1
11238정성태7/6/201720993오류 유형: 405. NT 서비스 시작 시 "Error 1067: The process terminated unexpectedly." 오류 발생 [2]
11237정성태7/5/201722642.NET Framework: 663. C# - PDB 파일 경로를 PE 파일로부터 얻는 방법파일 다운로드1
11236정성태7/4/201725932.NET Framework: 662. C# - VHD/VHDX 가상 디스크를 마운트하지 않고 파일을 복사하는 방법파일 다운로드1
11235정성태6/29/201720104Math: 20. Matlab/Octave로 Gram-Schmidt 정규 직교 집합 구하는 방법
11234정성태6/29/201717429오류 유형: 404. SharePoint 2013 설치 과정에서 "The username is invalid The account must be a valid domain account" 오류 발생
11233정성태6/28/201717303오류 유형: 403. SharePoint Server 2013을 Windows Server 2016에 설치할 때 .NET 4.5 설치 오류 발생
11232정성태6/28/201718260Windows: 144. Windows Server 2016에 Windows Identity Extensions을 설치하는 방법
11231정성태6/28/201718901디버깅 기술: 86. windbg의 mscordacwks DLL 로드 문제 - 세 번째 이야기 [1]
11230정성태6/28/201718065제니퍼 .NET: 26. 제니퍼 닷넷 적용 사례 (6) - 잦은 Recycle 문제
11229정성태6/27/201719311오류 유형: 402. Windows Server Backup 관리 콘솔이 없어진 경우
11228정성태6/26/201716779개발 환경 구성: 320. Visual Basic .NET 프로젝트에서 내장 Manifest 자원을 EXE 파일로부터 제거하는 방법파일 다운로드1
11227정성태6/19/201724575개발 환경 구성: 319. windbg에서 python 스크립트 실행하는 방법 - pykd [6]
11226정성태6/19/201716379오류 유형: 401. Microsoft Edge를 실행했는데 입력 반응이 없는 경우
11225정성태6/19/201715754오류 유형: 400. Outlook - The required file ExSec32.dll cannot be found in your path. Install Microsoft Outlook again.
... 106  [107]  108  109  110  111  112  113  114  115  116  117  118  119  120  ...