Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 3개 있습니다.)

파이썬 - FastAPI / uvicorn 호스팅 환경에서 asyncio 사용하는 방법

간단한 FastAPI 예제에서 단지 asyncio를,

aiomysql
; https://pypi.org/project/aiomysql/

이렇게 사용했을 뿐인데,

# 실행 명령어
# uvicorn main:app --reload --host 0.0.0.0 --port 18003

from fastapi import FastAPI

app = FastAPI()

@app.get("/aio_func_test")
async def aio_func_test():
    import asyncio
    loop = asyncio.get_event_loop()
    loop.run_until_complete(my_func())
    return "test"


def my_func():
    return "my value"

run_until_complete 호출에서 예외가 발생합니다.

...[생략]...
  File "/mnt/d/testprj/p38fastapi/./main.py", line 51, in aio_func_test
    loop.run_until_complete(my_func())
  File "uvloop/loop.pyx", line 1495, in uvloop.loop.Loop.run_until_complete
  File "uvloop/loop.pyx", line 1488, in uvloop.loop.Loop.run_until_complete
  File "uvloop/loop.pyx", line 1377, in uvloop.loop.Loop.run_forever
  File "uvloop/loop.pyx", line 511, in uvloop.loop.Loop._run
RuntimeError: this event loop is already running.

아마도, 이미 해당 프로세스에서는 event loop를 초기화해 사용하는 듯하고, 별도의 asyncio를 사용할 수는 없는 것 같습니다.

검색해 보면,

RuntimeError: This event loop is already running in python
; https://stackoverflow.com/questions/46827007/runtimeerror-this-event-loop-is-already-running-in-python

2가지 방법을 제시하는데요, 우선 asyncio.set_event_loop 호출은,

import asyncio
asyncio.set_event_loop(asyncio.new_event_loop())

함수 호출 자체에는 오류가 없었지만 이전과 마찬가지로 run_until_complete 호출 시 "RuntimeError: this event loop is already running." 예외가 발생했습니다.

그다음 제시한 방법이 nest-asyncio를 사용하는 것인데요,

nest-asyncio
; https://pypi.org/project/nest-asyncio/

아래와 같이 사용했더니,

# pip install nest-asyncio

from fastapi import FastAPI

import nest_asyncio
nest_asyncio.apply()

app = FastAPI()

#  ...[생략]...

이번에는 nest_asyncio.apply 호출 시에 다음과 같은 오류가 발생합니다.

...[생략]...
  File "/mnt/d/testprj/p38fastapi/./main.py", line 9, in <module>
    nest_asyncio.apply()
  File "/home/testusr/.local/lib/python3.8/site-packages/nest_asyncio.py", line 17, in apply
    _patch_loop(loop)
  File "/home/testusr/.local/lib/python3.8/site-packages/nest_asyncio.py", line 174, in _patch_loop
    raise ValueError('Can\'t patch loop of type %s' % type(loop))
ValueError: Can't patch loop of type <class 'uvloop.Loop'>

처음에는 저게 무슨 소리인가 싶었는데... ^^; nest-asyncio PyPI 문서에서 이를 해결하기 위한 힌트를 얻을 수 있습니다.

Optionally the specific loop that needs patching can be given as argument to apply, otherwise the current event loop is used. An event loop can be patched whether it is already running or not. Only event loops from asyncio can be patched; Loops from other projects, such as uvloop or quamash, generally can’t be patched.


그렇다는 것은, 결국 FastAPI를 호스팅하는 응용 프로그램, 이 글에서는 uvicorn에 Event Loop를 지정하는 옵션이 있다는 것을 의미합니다. 실제로 확인해 볼까요? ^^

$ uvicorn --help
Usage: uvicorn [OPTIONS] APP

Options:
  --host TEXT                     Bind socket to this host.  [default:
                                  127.0.0.1]
  --port INTEGER                  Bind socket to this port.  [default: 8000]
  --uds TEXT                      Bind to a UNIX domain socket.
  --fd INTEGER                    Bind to socket from this file descriptor.
  --reload                        Enable auto-reload.
  ...[생략]...
  --workers INTEGER               Number of worker processes. Defaults to the
                                  $WEB_CONCURRENCY environment variable if
                                  available, or 1. Not valid with --reload.
  --loop [auto|asyncio|uvloop]    Event loop implementation.  [default: auto]
  --http [auto|h11|httptools]     HTTP protocol implementation.  [default:
                                  auto]
  ...[생략]...

보면, asyncio와 uvloop를 지원하는데요, 기본 값이 auto이고 "Can't patch loop of type <class 'uvloop.Loop'>"라는 오류 메시지에서 uvloop가 선택된 것임을 알 수 있습니다.

따라서 uvicorn을 다음과 같이 실행하면,

$ uvicorn main:app --reload --host 0.0.0.0 --port 18003 --loop asyncio

이제 정상적으로 loop.run_until_complete 코드까지 실행됩니다.




재미있는 상황이 하나 더 있는데요, nest_asyncio.apply()를 호출하는 시기를 다음과 같이 늦춰도 일단 잘 실행은 됩니다.

from fastapi import FastAPI

app = FastAPI()

@app.get("/aio_func_test")
async def aio_func_test():
    import asyncio

    import nest_asyncio
    nest_asyncio.apply()

    loop = asyncio.get_event_loop()
    loop.run_until_complete(my_func())
    return "test"


def my_func():
    return "my value"

하지만, 위와 같은 상황에서 middleware를 하나 추가하면,

# ....[생략]...
from starlette.middleware.base import BaseHTTPMiddleware

class MyMiddleware(BaseHTTPMiddleware):
    async def dispatch(self, request, call_next):
        response = await call_next(request)
        return response


app = FastAPI()
app.add_middleware(MyMiddleware)

# ....[생략]...

또는, 이렇게 추가해도,

# ....[생략]...

# https://fastapi.tiangolo.com/tutorial/middleware/#create-a-middleware

@app.middleware("http")
async def add_process_time_header(request, call_next):
    response = await call_next(request)
    return response

이번엔 다음과 같은 예외가 발생하면서 요청 처리 자체가 중단되지를 않습니다.

Exception in callback <TaskStepMethWrapper object at 0x7f5be53ebdf0>()
handle: <Handle <TaskStepMethWrapper object at 0x7f5be53ebdf0>()>
Traceback (most recent call last):
  File "/usr/lib/python3.8/asyncio/events.py", line 81, in _run
    self._context.run(self._callback, *self._args)
RuntimeError: Cannot enter into task <Task pending name='Task-6' coro=<RequestResponseCycle.run_asgi() running at /home/testusr/.local/lib/python3.8/site-packages/uvicorn/protocols/http/httptools_impl.py:372> cb=[set.discard()]> while another task <Task pending name='starlette.middleware.base.BaseHTTPMiddleware.__call__.<locals>.call_next.<locals>.coro' coro=<BaseHTTPMiddleware.__call__.<locals>.call_next.<locals>.coro() running at /home/testusr/.local/lib/python3.8/site-packages/starlette/middleware/base.py:36> cb=[TaskGroup._spawn.<locals>.task_done() at /home/testusr/.local/lib/python3.8/site-packages/anyio/_backends/_asyncio.py:726]> is being executed.

물론, middleware가 있어도 nest_asyncio.apply 호출 자체를 초기에 실행하면 정상적으로 실행은 됩니다.

음... 이것이 어느 한 쪽의 버그인지, 아니면 원래 nest_asyncio.apply 호출을 초기에만 하는 것이 올바른 것인지는 잘 모르겠습니다. (혹시 아시는 분은 덧글 부탁드립니다. ^^)




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 10/11/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 



2022-09-30 12시38분
[와] 정말 큰 도움 되었습니다. 감사합니다.
[guest]

1  2  3  4  5  6  7  8  [9]  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13446정성태11/16/20233426닷넷: 2161. .NET Conf 2023 - Day 1 Blazor 개요 정리
13445정성태11/15/20233767Linux: 62. 리눅스/WSL에서 CA 인증서를 저장하는 방법
13444정성태11/15/20233493닷넷: 2160. C# 12 - Experimental 특성 지원
13443정성태11/14/20233377개발 환경 구성: 687. OpenSSL로 생성한 사용자 인증서를 ASP.NET Core 웹 사이트에 적용하는 방법
13442정성태11/13/20233161개발 환경 구성: 686. 비주얼 스튜디오로 실행한 ASP.NET Core 사이트를 WSL 2 인스턴스에서 https로 접속하는 방법
13441정성태11/12/20233635닷넷: 2159. C# - ASP.NET Core 프로젝트에서 서버 Socket을 직접 생성하는 방법파일 다운로드1
13440정성태11/11/20233219Windows: 253. 소켓 Listen 시 방화벽의 Public/Private 제어 기능이 비활성화된 경우
13439정성태11/10/20233977닷넷: 2158. C# - 소켓 포트를 미리 시스템에 등록/예약해 사용하는 방법(Port Exclusion Ranges)파일 다운로드1
13438정성태11/9/20233381닷넷: 2157. C# - WinRT 기능을 이용해 윈도우에서 실행 중인 Media App 제어
13437정성태11/8/20233522닷넷: 2156. .NET 7 이상의 콘솔 프로그램을 (dockerfile 없이) 로컬 docker에 배포하는 방법
13436정성태11/7/20233754닷넷: 2155. C# - .NET 8 런타임부터 (Reflection 없이) 특성을 이용해 public이 아닌 멤버 호출 가능
13435정성태11/6/20233680닷넷: 2154. C# - 네이티브 자원을 포함한 관리 개체(예: 스레드)의 GC 정리
13434정성태11/1/20233437스크립트: 62. 파이썬 - class의 정적 함수를 동적으로 교체
13433정성태11/1/20233003스크립트: 61. 파이썬 - 함수 오버로딩 미지원
13432정성태10/31/20233331오류 유형: 878. 탐색기의 WSL 디렉터리 접근 시 "Attempt to access invalid address." 오류 발생
13431정성태10/31/20233703스크립트: 60. 파이썬 - 비동기 FastAPI 앱을 gunicorn으로 호스팅
13430정성태10/30/20233491닷넷: 2153. C# - 사용자가 빌드한 ICU dll 파일을 사용하는 방법
13429정성태10/27/20233669닷넷: 2152. Win32 Interop - C/C++ DLL로부터 이중 포인터 버퍼를 C#으로 받는 예제파일 다운로드1
13428정성태10/25/20233741닷넷: 2151. C# 12 - ref readonly 매개변수
13427정성태10/18/20233979닷넷: 2150. C# 12 - 정적 문맥에서 인스턴스 멤버에 대한 nameof 접근 허용(Allow nameof to always access instance members from static context)
13426정성태10/13/20234071스크립트: 59. 파이썬 - 비동기 호출 함수(run_until_complete, run_in_executor, create_task, run_in_threadpool)
13425정성태10/11/20233926닷넷: 2149. C# - PLinq의 Partitioner<T>를 이용한 사용자 정의 분할파일 다운로드1
13423정성태10/6/20233941스크립트: 58. 파이썬 - async/await 기본 사용법
13422정성태10/5/20234023닷넷: 2148. C# - async 유무에 따른 awaitable 메서드의 병렬 및 예외 처리
13421정성태10/4/20234115닷넷: 2147. C# - 비동기 메서드의 async 예약어 유무에 따른 차이
13420정성태9/26/20237331스크립트: 57. 파이썬 - UnboundLocalError: cannot access local variable '...' where it is not associated with a value
1  2  3  4  5  6  7  8  [9]  10  11  12  13  14  15  ...