Microsoft MVP성태의 닷넷 이야기
.NET Framework: 2107. .NET 6+ FileStream의 구조 변화 [링크 복사], [링크+제목 복사],
조회: 4467
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 

.NET 6+ FileStream의 구조 변화

아래의 글에,

C# - byte * (바이트 포인터)를 FileStream으로 쓰는 방법
; https://www.sysnet.pe.kr/2/0/12913

다음과 같은 내용의 덧글이 있습니다.

corefx 구현체에서 Span 객체를 인자로 받는 Read/Write 메소드가 array pool을 활용하여 버퍼를 복사하고 다시 Read(byte[], int, int)와 Write(byte[], int, int)를 호출


시간이 좀 지났으니, 현재의 구현이 어떻게 되어 있는지 살펴보겠습니다. ^^




우선, FileStream의 Span을 받는 Write 메서드를 보면,

public override void Write(ReadOnlySpan<byte> buffer) => _strategy.Write(buffer);

호출을 _strategy로 전달하고 있습니다. 이 멤버는 FileStream 생성자에서 결정되는데요,

public FileStream(SafeFileHandle handle, FileAccess access, int bufferSize)
{
    ValidateHandle(handle, access, bufferSize);

    _strategy = FileStreamHelpers.ChooseStrategy(this, handle, access, bufferSize, handle.IsAsync);
}

FileStreamHelpers.ChooseStrategy는 다시,

namespace System.IO.Strategies
{
    internal static partial class FileStreamHelpers
    {
        // ...[생략]...

        internal static FileStreamStrategy ChooseStrategy(FileStream fileStream, SafeFileHandle handle, FileAccess access, int bufferSize, bool isAsync)
        {
            FileStreamStrategy strategy =
                EnableBufferingIfNeeded(ChooseStrategyCore(handle, access, isAsync), bufferSize);

            return WrapIfDerivedType(fileStream, strategy);
        }

        // ...[생략]...
    }
}

ChooseStrategyCore로 역할을 맡기고 있습니다. 여기서 재미있는 것은 FileStreamHelpers 자체가 partial class라는 점입니다. 이유는 짐작 가시죠? ^^

윈도우뿐만 아니라 리눅스 등도 지원해야 하기 때문에 FileStreamHelpers는 partial로 플랫폼에 따라 다른 파일을 포함해 빌드하게 됩니다. 일례로 윈도우의 경우 FileStreamHelpers.Windows.cs 파일을 포함하고, 그 파일의 ChooseStrategyCore를 보면,

private static FileStreamStrategy ChooseStrategyCore(string path, FileMode mode, FileAccess access, FileShare share, FileOptions options, long preallocationSize, UnixFileMode? unixCreateMode) =>
    (options & FileOptions.Asynchronous) != 0 ?
        new AsyncWindowsFileStreamStrategy(path, mode, access, share, options, preallocationSize, unixCreateMode) :
        new SyncWindowsFileStreamStrategy(path, mode, access, share, options, preallocationSize, unixCreateMode);

동기/비동기에 따라 다른 타입을 생성해 반환합니다. 2가지 중에 여기서는 SyncWindowsFileStreamStrategy.cs로 들어가 보겠습니다. ^^

using Microsoft.Win32.SafeHandles;

namespace System.IO.Strategies
{
    internal sealed class SyncWindowsFileStreamStrategy : OSFileStreamStrategy
    {
        internal SyncWindowsFileStreamStrategy(SafeFileHandle handle, FileAccess access) : base(handle, access)
        {
        }

        internal SyncWindowsFileStreamStrategy(string path, FileMode mode, FileAccess access, FileShare share, FileOptions options, long preallocationSize, UnixFileMode? unixCreateMode)
            : base(path, mode, access, share, options, preallocationSize, unixCreateMode)
        {
        }

        internal override bool IsAsync => false;
    }
}

partial이 아니므로 이번에는 대부분의 구현이 부모 클래스에 있을 텐데요, 정의를 가보면 Write 메서드의 본체를 볼 수 있습니다.

// OSFileStreamStrategy.cs

public sealed override void Write(ReadOnlySpan<byte> buffer)
{
    if (_fileHandle.IsClosed)
    {
        ThrowHelper.ThrowObjectDisposedException_FileClosed();
    }
    else if ((_access & FileAccess.Write) == 0)
    {
        ThrowHelper.ThrowNotSupportedException_UnwritableStream();
    }

    RandomAccess.WriteAtOffset(_fileHandle, buffer, _filePosition);
    _filePosition += buffer.Length;
}

아쉽게도 여기가 끝이 아니군요. ^^ RandomAccess.WriteAtOffset으로 인자를 그대로 전달하는데, 이것 역시 partial 클래스로,

// RandomAccess.cs

namespace System.IO
{
    public static partial class RandomAccess
    {
         // ...[생략]...
    }
}

빌드 시 대상 플랫폼에 따라 다른 소스코드 파일과 엮이게 됩니다. 윈도우의 경우는 RandomAccess.Windows.cs 파일이 포함되는데,

// RandomAccess.Windows.cs

namespace System.IO
{
    public static partial class RandomAccess
    {
        // ...[생략]...

        internal static unsafe void WriteAtOffset(SafeFileHandle handle, ReadOnlySpan<byte> buffer, long fileOffset)
        {
            // ...[생략]...

            NativeOverlapped overlapped = GetNativeOverlappedForSyncHandle(handle, fileOffset);
            fixed (byte* pinned = &MemoryMarshal.GetReference(buffer))
            {
                if (Interop.Kernel32.WriteFile(handle, pinned, buffer.Length, out int numBytesWritten, &overlapped) != 0)
                {
                    Debug.Assert(numBytesWritten == buffer.Length);
                    return;
                }

                int errorCode = FileStreamHelpers.GetLastWin32ErrorAndDisposeHandleIfInvalid(handle);
                throw Win32Marshal.GetExceptionForWin32Error(errorCode, handle.Path);
            }
        }
    }
}

보는 바와 같이 Kernel32.WriteFile Win32 API 호출을 바로 하고 있습니다. 즉, Span 인자로 넘긴 데이터의 복사는 발생하지 않으니 안심하고 사용하셔도 되겠습니다. ^^




시작은 Write 메서드의 버퍼 복사를 살펴보려는 것이었는데, 뜻하지 않게 다중 플랫폼 지원을 추가하느라 바뀐 FileStream의 구현을 들여다보게 되었습니다. 아울러, 아래의 문서를 보면,

File IO improvements in .NET 6
; https://devblogs.microsoft.com/dotnet/file-io-improvements-in-dotnet-6/

The increased amount of allocated memory comes from the abstraction layer that we have introduced to support the .NET 5 Compatibility mode, which also helped increase the code maintainability: we now have a few separate FileStream strategy implementations instead of one with a lot of if blocks.


.NET 5까지는 Span Write 메서드에 대해 Net5CompatFileStreamStrategy 소스코드에서 확인할 수 있는 것처럼, 버퍼 복사가 이뤄집니다.

// Net5CompatFileStreamStrategy.Windows.cs

private void WriteSpan(ReadOnlySpan<byte> source)
{
    // ...[생략]...

    if (_writePos > 0)
    {
        int numBytes = _bufferLength - _writePos;   // space left in buffer
        if (numBytes > 0)
        {
            if (numBytes >= source.Length)
            {
                source.CopyTo(GetBuffer().AsSpan(_writePos));
                _writePos += source.Length;
                return;
            }
            else
            {
                source.Slice(0, numBytes).CopyTo(GetBuffer().AsSpan(_writePos));
                _writePos += numBytes;
                source = source.Slice(numBytes);
            }
        }

        // ...[생략]...
    }

    // ...[생략]...

    // Copy remaining bytes into buffer, to write at a later date.
    source.CopyTo(GetBuffer().AsSpan(_writePos));
    _writePos = source.Length;
    return;
}

그러니까, .NET 6+로 업데이트하는 것만으로도 "File IO improvements in .NET 6" 문서의 내용대로 성능 향상을 볼 수 있습니다.




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 4/5/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




... 16  17  18  19  20  21  22  23  24  25  26  27  [28]  29  30  ...
NoWriterDateCnt.TitleFile(s)
12947정성태1/30/20227860개발 환경 구성: 634. ffmpeg.exe - 기존 동영상 컨테이너에 다중 스트림을 추가하는 방법
12946정성태1/28/20226361오류 유형: 792. .NET Core - 로컬 개발 중에 docker 호스팅으로 바꾸는 경우 SQL 서버 접근 방법
12945정성태1/28/20226672오류 유형: 791. SQL 서버 로그인 시 localhost는 되고, 127.0.0.1로는 안 되는 문제
12944정성태1/28/20229123.NET Framework: 1143. C# - Entity Framework Core 6 개요
12943정성태1/27/20227937.NET Framework: 1142. .NET 5+로 포팅 시 플랫폼 호환성 경고 메시지(SYSLIB0006, SYSLIB0011, CA1416)파일 다운로드1
12942정성태1/27/20228203.NET Framework: 1141. XmlSerializer와 Dictionary 타입파일 다운로드1
12941정성태1/26/20229613오류 유형: 790. AKS/k8s - pod 상태가 Pending으로 지속되는 경우
12940정성태1/26/20226949오류 유형: 789. AKS에서 hpa에 따른 autoscale 기능이 동작하지 않는다면?
12939정성태1/25/20227705.NET Framework: 1140. C# - ffmpeg(FFmpeg.AutoGen)를 이용해 MP3 오디오 파일 인코딩/디코딩하는 예제파일 다운로드1
12938정성태1/24/202210065개발 환경 구성: 633. Docker Desktop + k8s 환경에서 local 이미지를 사용하는 방법
12937정성태1/24/20227894.NET Framework: 1139. C# - ffmpeg(FFmpeg.AutoGen)를 이용해 오디오(mp2) 인코딩하는 예제(encode_audio.c) [2]파일 다운로드1
12936정성태1/22/20227826.NET Framework: 1138. C# - ffmpeg(FFmpeg.AutoGen)를 이용해 멀티미디어 파일의 메타데이터를 보여주는 예제(metadata.c)파일 다운로드1
12935정성태1/22/20228061.NET Framework: 1137. ffmpeg의 파일 해시 예제(ffhash.c)를 C#으로 포팅파일 다운로드1
12934정성태1/22/20227643오류 유형: 788. Warning C6262 Function uses '65564' bytes of stack: exceeds /analyze:stacksize '16384'. Consider moving some data to heap. [2]
12933정성태1/21/20228139.NET Framework: 1136. C# - ffmpeg(FFmpeg.AutoGen)를 이용해 MP2 오디오 파일 디코딩 예제(decode_audio.c)파일 다운로드1
12932정성태1/20/20228586.NET Framework: 1135. C# - ffmpeg(FFmpeg.AutoGen)로 하드웨어 가속기를 이용한 비디오 디코딩 예제(hw_decode.c) [2]파일 다운로드1
12931정성태1/20/20226603개발 환경 구성: 632. ASP.NET Core 프로젝트를 AKS/k8s에 올리는 과정
12930정성태1/19/20227341개발 환경 구성: 631. AKS/k8s의 Volume에 파일 복사하는 방법
12929정성태1/19/20227142개발 환경 구성: 630. AKS/k8s의 Pod에 Volume 연결하는 방법
12928정성태1/18/20227235개발 환경 구성: 629. AKS/Kubernetes에서 호스팅 중인 pod에 shell(/bin/bash)로 진입하는 방법
12927정성태1/18/20227010개발 환경 구성: 628. AKS 환경에 응용 프로그램 배포 방법
12926정성태1/17/20227559오류 유형: 787. AKS - pod 배포 시 ErrImagePull/ImagePullBackOff 오류
12925정성태1/17/20227593개발 환경 구성: 627. AKS의 준비 단계 - ACR(Azure Container Registry)에 docker 이미지 배포
12924정성태1/15/20229119.NET Framework: 1134. C# - ffmpeg(FFmpeg.AutoGen)를 이용한 비디오 디코딩 예제(decode_video.c) [2]파일 다운로드1
12923정성태1/15/20227994개발 환경 구성: 626. ffmpeg.exe를 사용해 비디오 파일을 MPEG1 포맷으로 변경하는 방법
12922정성태1/14/20227081개발 환경 구성: 625. AKS - Azure Kubernetes Service 생성 및 SLO/SLA 변경 방법
... 16  17  18  19  20  21  22  23  24  25  26  27  [28]  29  30  ...