Microsoft MVP성태의 닷넷 이야기
.NET Framework: 2129. C# - Polly를 이용한 클라이언트 측의 요청 재시도 [링크 복사], [링크+제목 복사],
조회: 11894
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일

(시리즈 글이 2개 있습니다.)
.NET Framework: 2126. C# - 서버 측의 요청 제어 (Microsoft.AspNetCore.RateLimiting)
; https://www.sysnet.pe.kr/2/0/13362

.NET Framework: 2129. C# - Polly를 이용한 클라이언트 측의 요청 재시도
; https://www.sysnet.pe.kr/2/0/13376




C# - Polly를 이용한 클라이언트 측의 요청 재시도

지난 글에서,

C# - 서버 측의 요청 제어 (Microsoft.AspNetCore.RateLimiting)
; https://www.sysnet.pe.kr/2/0/13362

Microsoft.AspNetCore.RateLimiting을 사용해 요청 제어를 하는 방법을 설명했는데요, 이런 서비스를 이용하는 클라이언트는 반대로 제한이 걸린 서비스에 대한 호출을 재시도해야 합니다.

파이썬의 경우, 이럴 때 Tenacity, backoff 등의 패키지를 이용해 간단한 특성 처리를 할 수 있는데요,

import openai  # for OpenAI API calls
from tenacity import (
    retry,
    stop_after_attempt,
    wait_random_exponential,
)  # for exponential backoff

@retry(wait=wait_random_exponential(min=1, max=60), stop=stop_after_attempt(6))
def completion_with_backoff(**kwargs):
    return openai.Completion.create(**kwargs)

completion_with_backoff(model="text-davinci-002", prompt="Once upon a time,")

닷넷의 경우에는 Polly 라이브러리를 이용해,

Polly
; https://www.nuget.org/packages/polly/

App-vNext/Polly
; https://github.com/App-vNext/Polly#installing-via-the-net-sdk

Implement HTTP call retries with exponential backoff with IHttpClientFactory and Polly policies
; https://learn.microsoft.com/en-us/dotnet/architecture/microservices/implement-resilient-applications/implement-http-call-retries-exponential-backoff-polly

(비록 특성을 지정하는 것처럼 간단하게는 아니지만) 유사하게 구현할 수 있습니다.

예를 들어, 지수 단위로 대기 시간이 늘어나는 Polly 정책은 (문서에서 나온 것 중에서) 다음과 같이 코딩할 수 있습니다.

// Retry a specified number of times, using a function to
// calculate the duration to wait between retries based on
// the current retry attempt (allows for exponential back-off)
// In this case will wait for
//  2 ^ 1 = 2 seconds then
//  2 ^ 2 = 4 seconds then
//  2 ^ 3 = 8 seconds then
//  2 ^ 4 = 16 seconds then
//  2 ^ 5 = 32 seconds
Policy
  .Handle<SomeExceptionType>()
  .WaitAndRetry(5, retryAttempt => TimeSpan.FromSeconds(Math.Pow(2, retryAttempt)));

이것을 적용해 지난 글에서 다룬 Rate Limit가 걸린 서비스를 호출하는 예제 클라이언트 코드를 다음과 같이 재작성할 수 있습니다.

using Polly;
using System.Net;

namespace ConsoleApp1;

internal class Program
{
    public const int MaxRequests = 7;
    static async Task<int> Main(string[] args)
    {
        var retryPolicy = Policy
            .HandleResult<HttpResponseMessage>(r => r.StatusCode == HttpStatusCode.ServiceUnavailable)
            .RetryAsync(5, (result, retryCount, context) =>
        {
            Console.WriteLine($"Retry {retryCount} of {context.PolicyKey} at {DateTime.Now}");
            Thread.Sleep(TimeSpan.FromSeconds(Math.Pow(2, retryCount)));
        });

        var client = new HttpClient();
        var context = new Context();

        var requests = new Task<HttpResponseMessage>[MaxRequests];
        for (int i = 0; i < MaxRequests; i++)
        {
            requests[i] = retryPolicy.ExecuteAsync(async ctx =>
            {
                return await client.GetAsync("http://localhost:5203/WeatherForecast");
            }, context);
        }

        await Task.WhenAll(requests);

        for (int i = 0; i < MaxRequests; i++)
        {
            Console.WriteLine($"{i}: {requests[i].Result.StatusCode}");
        }

        return 0;
    }
}

Retry 1 of AsyncRetryPolicy`1-5df14b8b at 2023-06-01 오후 2:58:14
Retry 2 of AsyncRetryPolicy`1-5df14b8b at 2023-06-01 오후 2:58:16
0: OK
1: OK
2: OK
3: OK
4: OK
5: OK
6: OK

간단하죠? ^^ 추가적으로 Polly의 다양한 사용법은 다음의 글을 읽어보시면 도움이 되실 것입니다.

C# - Polly를 사용하여 탄력적인 응용 프로그램 만들기
; https://jacking75.github.io/NET_lib_polly/

(첨부 파일은 이 글의 예제 코드를 포함합니다.)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 6/21/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




... 151  [152]  153  154  155  156  157  158  159  160  161  162  163  164  165  ...
NoWriterDateCnt.TitleFile(s)
1252정성태3/1/201225355Windows: 55. 윈도우 8 베타 설치 과정 [1]
1251정성태2/27/201229303VC++: 60. C/C++ Native 스레드 콜 스택 덤프를 얻는 공개 라이브러리 [2]파일 다운로드1
1250정성태2/27/201231419VC++: 59. C/C++ 프로젝트 빌드 속도 개선 - UnityBuild를 아세요? [3]
1249정성태2/26/201231096.NET Framework: 311. .NET 스레드 콜 스택 덤프 (5) - ICorDebug 인터페이스 사용법 [2]파일 다운로드3
1248정성태2/25/201242619.NET Framework: 310. C#의 Shift 비트 연산 정리파일 다운로드1
1247정성태2/25/201225289.NET Framework: 309. .NET 응용 프로그램에 기본 생성되는 스레드들에 대한 탐구 [1]파일 다운로드1
1246정성태2/25/201224869개발 환경 구성: 145. 한영 변환은 되지만, 정작 한글 입력이 안되는 경우
1245정성태2/25/201235581개발 환경 구성: 144. 윈도우에서도 유닉스처럼 명령행으로 원격 접속하는 방법
1244정성태2/24/201232774.NET Framework: 308. .NET System.Threading.Thread 개체에서 Native Thread Id를 구할 수 있을까? [1]파일 다운로드1
1243정성태2/23/201232731개발 환경 구성: 143. Visual Studio 2010 - .NET Framework 소스 코드 디버깅 - 두 번째 이야기 [1]
1242정성태2/20/201239588VC++: 58. API Hooking - 64비트를 고려해야 한다면? EasyHook! [7]파일 다운로드1
1241정성태2/20/201226418.NET Framework: 307. .NET 4.0 응용 프로그램을 위한 ILMerge
1240정성태2/19/201232705디버깅 기술: 48. C/C++ JNI DLL을 Visual Studio로 디버깅하는 방법 [2]
1239정성태2/19/201224315.NET Framework: 306. 컴퓨터에 실행된 프로세스 중에 닷넷 응용 프로그램임을 알 수 있는 방법 - C# [1]파일 다운로드1
1238정성태2/19/201228172.NET Framework: 305. GetPrivateProfileSection / WritePrivateProfileSection의 C# 버전파일 다운로드1
1237정성태2/18/201232514개발 환경 구성: 142. Windows Embedded POSReady 7 설치 [1]
1236정성태2/17/201228328개발 환경 구성: 141. Windows 2008 R2 RDP 라이선스 서버 설치하는 방법
1235정성태2/16/201226773.NET Framework: 304. Hyper-V의 가상 머신을 C#으로 제어하는 방법 [1]파일 다운로드1
1234정성태2/16/201227176.NET Framework: 303. 원본 파일의 공백/라인을 유지한 체 XML 파일을 저장하는 방법 [1]파일 다운로드1
1233정성태2/16/201233298.NET Framework: 302. supportedRuntime 옵션과 System.BadImageFormatException 예외 [5]
1232정성태2/9/201229207VC++: 57. 웹 브라우저에서 Flash만 빼고 다른 ActiveX를 차단할 수 있을까? [3]파일 다운로드1
1231정성태2/8/201238731VC++: 56. Win32 API 후킹 - Trampoline API Hooking [5]파일 다운로드1
1230정성태2/6/201224069개발 환경 구성: 140. 프로젝트 생성 시부터 "Enable the Visual Studio hosting process" 옵션을 끄는 방법
1229정성태2/4/201229087.NET Framework: 301. P/Invoke의 성능을 높이기 위해 C++/CLI가 선택되려면? [5]파일 다운로드1
1228정성태2/4/201278380.NET Framework: 300. C#으로 만드는 음성인식/TTS 프로그램 [47]파일 다운로드1
1227정성태2/3/201229268.NET Framework: 299. 해당 어셈블리가 Debug 빌드인지, Release 빌드인지 알아내는 방법파일 다운로드1
... 151  [152]  153  154  155  156  157  158  159  160  161  162  163  164  165  ...