Microsoft MVP성태의 닷넷 이야기
스크립트: 71. 파이썬 - asyncio의 ContextVar 전달 [링크 복사], [링크+제목 복사],
조회: 3034
글쓴 사람
정성태 (seongtaejeong at gmail.com)
홈페이지
첨부 파일
 

(시리즈 글이 3개 있습니다.)
스크립트: 58. 파이썬 - async/await 기본 사용법
; https://www.sysnet.pe.kr/2/0/13423

스크립트: 59. 파이썬 - 비동기 호출 함수(run_until_complete, run_in_executor, create_task, run_in_threadpool)
; https://www.sysnet.pe.kr/2/0/13426

스크립트: 71. 파이썬 - asyncio의 ContextVar 전달
; https://www.sysnet.pe.kr/2/0/13899




파이썬- asyncio의 ContextVar 전달

asyncio는 현재 스레드의 ContextVar와 연동해 대상 함수를 실행하지만,

PEP 567 – Context Variables
; https://peps.python.org/pep-0567/

event loop를 통해 실행하는 경우에는 ContextVar를 처리해 주지 않습니다. 이에 대한 코드를 다음과 같이 테스트할 수 있는데요,

import asyncio
import contextvars
import os


print(f'[{os.getpid()}] in main.py')
ctx_var = contextvars.ContextVar('myctx', default='(null)')


async def total1(numbers):
    print(f'[{os.getpid()}] total1 in create_task:', ctx_var.get(), sum(numbers))


def total2(numbers):
    print(f'[{os.getpid()}] total2 in run_in_executor:', ctx_var.get(), sum(numbers))


async def main():
    ctx_var.set('root-main')

    task1 = asyncio.create_task(total1([1, 2]))
    await asyncio.wait({task1})

    default_loop = asyncio.get_event_loop()
    await default_loop.run_in_executor(None, total2, [3, 4])


asyncio.run(main())

/* 실행 결과:
[48428] in main.py
[48428] total1 in create_task: root-main 3
[48428] total2 in run_in_executor: (null) 7
*/

보는 바와 같이 asyncio.create_task는 ContextVar를 전달하지만, loop.run_in_executor인 경우에는 전달되지 않고 있습니다.

이와 관련해 아래의 이슈가 있는데요,

loop.run_in_executor should propagate current contextvars #78195
; https://github.com/python/cpython/issues/78195

create_task는 언제나 스레드를 통해 대상을 실행하지만, run_in_executor는 전달하는 Executor에 따라 별도의 [스레드 또는 프로세스]로 실행하기 때문에 ContextVar를 전달하지 못한다고 합니다. 닷넷의 경험과는 좀 다른데요, 직렬화에 따라 ContextVar를 전달하는 것을 나눠도 되기 때문입니다.

게다가, 이 설명이 좀 맞지 않는 것이, run_in_executor에 오히려 ProcessPoolExecutor를 전달하면,

from concurrent.futures import ProcessPoolExecutor

executor = ProcessPoolExecutor()
await default_loop.run_in_executor(executor, total2, [3, 4])

/* 실행 결과:
[1051213] in main.py
[1051213] total1 in create_task: root-main 3
[1051214] total2 in run_in_executor: root-main 7
*/

ContextVar가 잘 전달됩니다. 즉, ThreadPoolExecutor 내부에서 ContextVar에 대한 전파를 하지 않는 것입니다.

executor = ThreadPoolExecutor()
await default_loop.run_in_executor(executor, total2, [3, 4])

// 실행 결과: total2 in run_in_executor: (null) 7

이외에도 이상한 점이 하나 있다면, 저렇게 executor를 통해 ProcessPoolExecutor를 전달하는 것은 가능하지만, 정작 set_default_executor로 전달하는 것은 또 불가능하다는 점입니다.

executor = ProcessPoolExecutor()

default_loop = asyncio.get_event_loop()
default_loop.set_default_executor(executor)

/* 예외 발생: Python 3.11부터 예외가 발생하도록 변경

Traceback (most recent call last):
  File "/home/testusr/testconsole/main.py", line 52, in 
    asyncio.run(main())
  File "/usr/lib/python3.11/asyncio/runners.py", line 190, in run
    return runner.run(main)
           ^^^^^^^^^^^^^^^^
  File "/usr/lib/python3.11/asyncio/runners.py", line 118, in run
    return self._loop.run_until_complete(task)
           ^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^^
  File "/usr/lib/python3.11/asyncio/base_events.py", line 654, in run_until_complete
    return future.result()
           ^^^^^^^^^^^^^^^
  File "/home/testusr/testconsole/main.py", line 49, in main
    default_loop.set_default_executor(executor)
  File "/usr/lib/python3.11/asyncio/base_events.py", line 834, in set_default_executor
    raise TypeError('executor must be ThreadPoolExecutor instance')
TypeError: executor must be ThreadPoolExecutor instance
*/




암튼, ThreadPoolExecutor 자체가 문제이기 때문에 이를 보완하면 저 문제를 해결할 수 있습니다. 즉, 사용자 정의 ThreadPoolExecutor를 만들면 되는 것인데요,

# Python: Copy context (contextvars.Context) to a separate thread
# https://stackoverflow.com/questions/71511061/python-copy-context-contextvars-context-to-a-separate-thread

class ThreadPoolExecutorWithCopyContext(ThreadPoolExecutor):
    def submit(self, fn, /, *args, **kwargs):  # Positional-only parameters
        ctx_vars = copy_context().items()

        def _fn():
            for var, value in ctx_vars:
                var.set(value)
            return fn(*args, **kwargs)

        return super().submit(_fn)

그래서 저 인스턴스를 run_in_executor에 전달하거나,

executor = ThreadPoolExecutorWithCopyContext()
await default_loop.run_in_executor(executor, total2, [3, 4])

set_default_executor로 지정하면 됩니다.

executor = ThreadPoolExecutorWithCopyContext()
default_loop.set_default_executor(executor)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 3/8/2025]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




... 76  77  [78]  79  80  81  82  83  84  85  86  87  88  89  90  ...
NoWriterDateCnt.TitleFile(s)
12028정성태9/26/201921931.NET Framework: 863. C# - Thread.Suspend 호출 시 응용 프로그램 hang 현상을 해결하기 위한 시도파일 다운로드1
12027정성태9/26/201915968오류 유형: 568. Consider app.config remapping of assembly "..." from Version "..." [...] to Version "..." [...] to solve conflict and get rid of warning.
12026정성태9/26/201922948.NET Framework: 862. C# - Active Directory의 LDAP 경로 및 정보 조회
12025정성태9/25/201921458제니퍼 .NET: 28. APM 솔루션 제니퍼, PHP, .NET 무료 사용 프로모션 2019 및 적용 사례 (8) [1]
12024정성태9/20/201923075.NET Framework: 861. HttpClient와 HttpClientHandler의 관계 [2]
12023정성태9/18/201923571.NET Framework: 860. ServicePointManager.DefaultConnectionLimit와 HttpClient의 관계파일 다운로드1
12022정성태9/12/201926677개발 환경 구성: 458. C# 8.0 (Preview) 신규 문법을 위한 개발 환경 구성 [3]
12021정성태9/12/201942989도서: 시작하세요! C# 8.0 프로그래밍 [4]
12020정성태9/11/201925906VC++: 134. SYSTEMTIME 값 기준으로 특정 시간이 지났는지를 판단하는 함수
12019정성태9/11/201919763Linux: 23. .NET Core + 리눅스 환경에서 Environment.CurrentDirectory 접근 시 주의 사항
12018정성태9/11/201918673오류 유형: 567. IIS - Unrecognized attribute 'targetFramework'. Note that attribute names are case-sensitive. (D:\lowSite4\web.config line 11)
12017정성태9/11/201922744오류 유형: 566. 비주얼 스튜디오 - Failed to register URL "http://localhost:6879/" for site "..." application "/". Error description: Access is denied. (0x80070005)
12016정성태9/5/201921885오류 유형: 565. git fetch - warning: 'C:\ProgramData/Git/config' has a dubious owner: '(unknown)'.
12015정성태9/3/201928340개발 환경 구성: 457. 윈도우 응용 프로그램의 Socket 연결 시 time-out 시간 제어
12014정성태9/3/201921821개발 환경 구성: 456. 명령행에서 AWS, Azure 등의 원격 저장소에 파일 관리하는 방법 - cyberduck/duck 소개
12013정성태8/28/201924631개발 환경 구성: 455. 윈도우에서 (테스트) 인증서 파일 만드는 방법 [3]
12012정성태8/28/201929357.NET Framework: 859. C# - HttpListener를 이용한 HTTPS 통신 방법
12011정성태8/27/201929238사물인터넷: 57. C# - Rapsberry Pi Zero W와 PC 간 Bluetooth 통신 예제 코드파일 다운로드1
12010정성태8/27/201921422VS.NET IDE: 138. VSIX - DTE.ItemOperations.NewFile 메서드에서 템플릿 이름을 다국어로 설정하는 방법
12009정성태8/26/201922912.NET Framework: 858. C#/Windows - Clipboard(Ctrl+C, Ctrl+V)가 동작하지 않는다면?파일 다운로드1
12008정성태8/26/201922509.NET Framework: 857. UWP 앱에서 SQL Server 데이터베이스 연결 방법
12007정성태8/24/201920844.NET Framework: 856. .NET Framework 버전을 올렸을 때 오류가 발생할 수 있는 상황
12006정성태8/23/201924276디버깅 기술: 129. guidgen - Encountered an improper argument. 오류 해결 방법 (및 windbg 분석) [1]
12005정성태8/13/201921696.NET Framework: 855. 닷넷 (및 VM 계열 언어) 코드의 성능 측정 시 주의할 점 [2]파일 다운로드1
12004정성태8/12/201929856.NET Framework: 854. C# - 32feet.NET을 이용한 PC 간 Bluetooth 통신 예제 코드 [14]
12003정성태8/12/201921840오류 유형: 564. Visual C++ 컴파일 오류 - fatal error C1090: PDB API call failed, error code '3'
... 76  77  [78]  79  80  81  82  83  84  85  86  87  88  89  90  ...