Microsoft MVP성태의 닷넷 이야기
.NET Framework: 759. C# - System.Span<T> 성능 [링크 복사], [링크+제목 복사],
조회: 27912
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 2개 있습니다.)
(시리즈 글이 5개 있습니다.)
.NET Framework: 759. C# - System.Span<T> 성능
; https://www.sysnet.pe.kr/2/0/11535

.NET Framework: 768. BenchmarkDotNet으로 Span<T> 성능 측정
; https://www.sysnet.pe.kr/2/0/11550

.NET Framework: 995. C# - Span<T>와 Memory<T>
; https://www.sysnet.pe.kr/2/0/12475

.NET Framework: 1002. C# - ReadOnlySequence<T> 소개
; https://www.sysnet.pe.kr/2/0/12484

.NET Framework: 1112. C# - .NET 6부터 공개된 ISpanFormattable 사용법
; https://www.sysnet.pe.kr/2/0/12821




C# - System.Span<T> 성능

지난 글에서 설명한,

C# 7.2 - Span<T>
; https://www.sysnet.pe.kr/2/0/11534

Span<T>의 재미있는 점이 바로 성능입니다. 비관리 메모리에 대한 뷰를 제공하면서도 성능 손실이 거의 없도록 만들어졌다는 특징이 있는데요, 이에 대해 "C# - All About Span: Exploring a New .NET Mainstay" 글에서 .NET Runtime이 Span을 특별히 대우해 효율적인 기계어 코드를 생성하는 것에 대한 설명이 실려 있습니다.

그럼 테스트를 해볼까요? ^^

.NET Framework 4.7.2 + NuGet System.Memory + Release로 구성한 프로젝트에서 다음의 코드를,

using System;
using System.Diagnostics;

namespace ConsoleApp1
{
    class Program
    {
        static void Main(string[] args)
        {
            Action<int, string, Action<byte[]>, byte[]> action = (loopCount, title, work, arg) =>
            {
                Stopwatch st = new Stopwatch();
                st.Start();

                Random rand = new Random(Environment.TickCount);

                for (int i = 0; i < loopCount; i++)
                {
                    work(arg);
                }

                st.Stop();

                Console.WriteLine(title + " : " + st.ElapsedMilliseconds);
            };

            byte[] buf = new byte[1];

            action(1, "touch-JIT", ForLoop, buf);
            action(1, "touch-JIT", SpanLoop, buf);
            action(1, "touch-JIT", PtrLoop, buf);

            Console.WriteLine();

            buf = new byte[10000];
            action(100000, "ForLoop", ForLoop, buf);
            action(100000, "SpanLoop", SpanLoop, buf);
            action(100000, "PtrLoop", PtrLoop, buf);
        }

        static void ForLoop(byte[] buffer)
        {
            int sum = 0;

            for (int i = 0; i < buffer.Length; i++)
            {
                sum += buffer[i];
            }
        }

        static void SpanLoop(byte[] buffer)
        {
            Span<byte> span = buffer;
            int sum = 0;
            for (int i = 0; i < span.Length; i++)
            {
                sum += span[i];
            }
        }

        static unsafe void PtrLoop(byte[] buffer)
        {
            int sum = 0;
            fixed (byte* ptr = buffer)
            {
                for (int i = 0; i < buffer.Length; i++)
                {
                    sum += *(ptr + i);
                }
            }
        }
    }
}

3회 수행하면 결과가 대략 이렇게 나옵니다.

[.NET Framework 4.7.2 + NuGet System.Memory - Release]

ForLoop : 439
SpanLoop : 1311
PtrLoop : 408

ForLoop : 420
SpanLoop : 1237
PtrLoop : 398

ForLoop : 428
SpanLoop : 1253
PtrLoop : 424

아니, 빠르다면서요? 이게 어떻게 된 일입니까? 왜냐하면 아직 .NET Framework 4.7.2의 Runtime에는 Span 타입을 위한 최적화 코드가 들어가 있지 않기 때문입니다. 그냥 기존 런타임에 Span 타입을 담은 어셈블리로 테스트한 것에 불과하고 indexer 프로퍼티로 접근하는 부가 동작 때문에 더 느리게 됩니다.




반면 동일한 코드를 .NET Core 2.1 런타임에서 수행하면,

Announcing .NET Core 2.1
; https://devblogs.microsoft.com/dotnet/announcing-net-core-2-1/

결과가 달라집니다. (현재 15.7.3 기준으로) Visual Studio 2017에서 실습하려면 .NET Core 2.1 SDK를 다운로드해야 합니다.

.NET Core 2.1 SDK - x64/x86
; https://www.microsoft.com/net/download/windows

설치 후 .NET Core 프로젝트의 설정 창에서 다음과 같이 2.1로 변경하고,

span_core_1.png

위에서 테스트한 Span 코드를 동일하게 수행하면 3회 수행 시 다음과 같습니다.

[.NET Core 2.1 - Release]

ForLoop : 463
SpanLoop : 439
PtrLoop : 594

ForLoop : 456
SpanLoop : 440
PtrLoop : 593

ForLoop : 479
SpanLoop : 440
PtrLoop : 593

미세하지만 빠르기까지 한데요, 어쨌든 "뷰"를 제공함에도 불구하고 성능 손실이 없어졌습니다. 따라서 이런 성능과 함께 관리 힙 메모리 할당을 줄이는 코드를 점차 적용한다면 기존 응용 프로그램의 성능을 좀 더 높일 수 있게 될 것입니다.

실제로 .NET Core 2.1의 BCL에는 Span 등의 사용을 통해 성능 개선을 했다는 내용을 다음의 글에서 소개하고 있습니다.

Performance Improvements in .NET Core 2.1
; https://devblogs.microsoft.com/dotnet/performance-improvements-in-net-core-2-1/




참고로, .NET Core 2.0 응용 프로그램을 빌드/배포하는 경우 생성되는 System.Private.CoreLib.dll을 보면 Span 타입이 public으로 구현되어 있지만 mscorlib.dll에서 [assembly: TypeForwardedTo(typeof(...))]로 노출되어 있지 않기 때문에 사용할 수가 없습니다.

대신, Reflection을 이용하면 System.Span을 구할 수는 있습니다.

using System;
using System.Reflection;

class Program
{
    static void Main(string[] args)
    {
        Assembly asm = Assembly.GetAssembly(typeof(Activator));
        Console.WriteLine(asm.FullName);

        foreach (Type type in asm.GetTypes())
        {
            if (type.FullName == "System.Span`1")
            {
                Console.WriteLine("System.Span<T>: Found");
                return;
            }
        }

        {
            // CS0246 The type or namespace name 'Span<>' could not be found (are you missing a using directive or an assembly reference?)
            // Span<byte> t;
        }
    }
}

또한 .NET Framework + NuGet System.Memory 4.0.1.0으로 테스트한 결과가 느린 것에는 Span 타입의 구현이 코드 호환을 위해 구색만 맞춘 탓도 있습니다.

[StructLayout(LayoutKind.Sequential), IsByRefLike, Obsolete("Types with embedded references are not supported in this version of your compiler.", true), IsReadOnly, DebuggerTypeProxy((Type) typeof(SpanDebugView<>)), DebuggerDisplay("{ToString(),raw}"), DebuggerTypeProxy((Type) typeof(SpanDebugView<>)), DebuggerDisplay("{ToString(),raw}")]
public struct Span<T>
{
    private readonly Pinnable<T> _pinnable;
    private readonly IntPtr _byteOffset;
    private readonly int _length;
    public int Length { get; }

    ...[생략]... 
}

반면, ".NET Core 2.1의 "System.Private.CoreLib.dll"에는 "C# - All About Span: Exploring a New .NET Mainstay" 글에서 소개한 대로 정확하게 "제네릭 인자의 참조" 타입으로 구현하고 있습니다.

[StructLayout(LayoutKind.Sequential), IsByRefLike, NonVersionable, DebuggerDisplay("{ToString(),raw}"), DebuggerTypeProxy(typeof(SpanDebugView<>)), Obsolete("Types with embedded references are not supported in this version of your compiler.", true), DebuggerTypeProxy(typeof(SpanDebugView<>)), IsReadOnly, DebuggerDisplay("{ToString(),raw}")]
public struct Span<T>
{
    internal readonly ByReference<T> _pointer;
    private readonly int _length;
    public int Length { [NonVersionable] get; }

    ...[생략]... 
}
 

[StructLayout(LayoutKind.Sequential), IsByRefLike, NonVersionable, Obsolete("Types with embedded references are not supported in this version of your compiler.", true)]
internal struct ByReference<T>
{
    private IntPtr _value;
    public ByReference(ref T value);
    public ref T Value { get; }
}




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 7/13/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2018-06-13 02시38분
BenchmarkDotNet으로 Span<T> 성능 측정
; http://www.sysnet.pe.kr/2/0/11550

C# Array and List Fastest Loop in 2024
; https://blog.ndepend.com/c-array-and-list-fastest-loop/
정성태

... [136]  137  138  139  140  141  142  143  144  145  146  147  148  149  150  ...
NoWriterDateCnt.TitleFile(s)
1746정성태9/18/201428416.NET Framework: 461. .NET EXE 파일을 닷넷 프레임워크 버전에 상관없이 실행할 수 있을까요? - 두 번째 이야기 [6]파일 다운로드1
1745정성태9/17/201426730개발 환경 구성: 237. 리눅스 Integration Services 버전 업그레이드 하는 방법 [1]
1744정성태9/17/201434946.NET Framework: 460. GetTickCount / GetTickCount64와 0x7FFE0000 주솟값 [4]파일 다운로드1
1743정성태9/16/201424369오류 유형: 238. 설치 오류 - Failed to get size of pseudo bundle
1742정성태8/27/201431080개발 환경 구성: 236. Hyper-V에 설치한 리눅스 VM의 VHD 크기 늘리는 방법 [2]
1741정성태8/26/201424786.NET Framework: 459. GetModuleHandleEx로 알아보는 .NET 메서드의 DLL 모듈 관계파일 다운로드1
1740정성태8/25/201436558.NET Framework: 458. 닷넷 GC가 순환 참조를 해제할 수 있을까요? [2]파일 다운로드1
1739정성태8/24/201430253.NET Framework: 457. 교착상태(Dead-lock) 해결 방법 - Lock Leveling [2]파일 다운로드1
1738정성태8/23/201426158.NET Framework: 456. C# - CAS를 이용한 Lock 래퍼 클래스파일 다운로드1
1737정성태8/20/201422696VS.NET IDE: 93. Visual Studio 2013 동기화 문제
1736정성태8/19/201429328VC++: 79. [부연] CAS Lock 알고리즘은 과연 빠른가? [2]파일 다운로드1
1735정성태8/19/201422107.NET Framework: 455. 닷넷 사용자 정의 예외 클래스의 최소 구현 코드 - 두 번째 이야기
1734정성태8/13/201423675오류 유형: 237. Windows Media Player cannot access the file. The file might be in use, you might not have access to the computer where the file is stored, or your proxy settings might not be correct.
1733정성태8/13/201429892.NET Framework: 454. EmptyWorkingSet Win32 API를 사용하는 C# 예제파일 다운로드1
1732정성태8/13/201438627Windows: 99. INetCache 폴더가 다르게 보이는 이유
1731정성태8/11/201430562개발 환경 구성: 235. 점(.)으로 시작하는 파일명을 탐색기에서 만드는 방법
1730정성태8/11/201425900개발 환경 구성: 234. Royal TS의 터미널(Terminal) 연결에서 한글이 깨지는 현상 해결 방법
1729정성태8/11/201421758오류 유형: 236. SqlConnection - The requested Performance Counter is not a custom counter, it has to be initialized as ReadOnly.
1728정성태8/8/201434515.NET Framework: 453. C# - 오피스 파워포인트(Powerpoint) 파일을 WinForm에서 보는 방법파일 다운로드1
1727정성태8/6/201424798오류 유형: 235. SignalR 오류 메시지 - Counter 'Messages Bus Messages Published Total' does not exist in the specified Category. [2]
1726정성태8/6/201423103오류 유형: 234. IIS Express에서 COM+ 사용 시 SecurityException - "Requested registry access is not allowed" 발생
1725정성태8/6/201425300오류 유형: 233. Visual Studio 2013 Update3 적용 후 Microsoft.VisualStudio.Web.PageInspector.Runtime 모듈에 대한 FileNotFoundException 예외 발생
1724정성태8/5/201429900.NET Framework: 452. .NET System.Threading.Thread 개체에서 Native Thread Id를 구하는 방법 - 두 번째 이야기 [1]파일 다운로드1
1723정성태7/29/201462598개발 환경 구성: 233. DirectX 9 예제 프로젝트 빌드하는 방법 [3]파일 다운로드1
1722정성태7/25/201424680오류 유형: 232. IIS 500 Internal Server Error - NTFS 암호화된 폴더에 웹 애플리케이션이 위치한 경우
1721정성태7/24/201428444.NET Framework: 451. 함수형 프로그래밍 개념 - 리스트 해석(List Comprehension)과 순수 함수 [2]
... [136]  137  138  139  140  141  142  143  144  145  146  147  148  149  150  ...