Microsoft MVP성태의 닷넷 이야기
스크립트: 60. 파이썬 - 비동기 FastAPI 앱을 gunicorn으로 호스팅 [링크 복사], [링크+제목 복사],
조회: 11837
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 
(연관된 글이 1개 있습니다.)
(시리즈 글이 2개 있습니다.)
스크립트: 41. 파이썬 - FastAPI / uvicorn 호스팅 환경에서 asyncio 사용하는 방법
; https://www.sysnet.pe.kr/2/0/13087

스크립트: 60. 파이썬 - 비동기 FastAPI 앱을 gunicorn으로 호스팅
; https://www.sysnet.pe.kr/2/0/13431




파이썬 - 비동기 FastAPI 앱을 gunicorn으로 호스팅

uvicorn을 이용해 호스팅하던,

파이썬 - FastAPI / uvicorn 호스팅 환경에서 asyncio 사용하는 방법
; https://www.sysnet.pe.kr/2/0/13087

uvicorn --loop asyncio --host 0.0.0.0 --port 20500 main:app

앱을 호스팅 환경만 gunicorn으로 변경하려고 했더니 처음부터 오류가 발생합니다. ^^;

$ gunicorn --bind 0:20500 main:app
...[생략]...
Traceback (most recent call last):
  File "/home/testusr/.local/lib/python3.8/site-packages/gunicorn/workers/sync.py", line 135, in handle
    self.handle_request(listener, req, client, addr)
  File "/home/testusr/.local/lib/python3.8/site-packages/gunicorn/workers/sync.py", line 178, in handle_request
    respiter = self.wsgi(environ, resp.start_response)
TypeError: __call__() missing 1 required positional argument: 'send'

검색해 보면,

__call__() missing 1 required positional argument: 'send' FastAPI on App Engine
; https://stackoverflow.com/questions/63424042/call-missing-1-required-positional-argument-send-fastapi-on-app-engine

단순히 저렇게 gunicorn을 실행하면 (동기 모드인) wsgi 인터페이스가 적용되므로, (비동기 모드인) asgi로 동작하게 만들도록 다음과 같이 비동기 worker 타입을 지정해야 한다는데요, 그래도 제 경우에는 다음과 같이 오류가 발생했습니다.

$ gunicorn --bind 0:20500 main:app -k uvicorn.workers.UvicornWorker
[2023-09-22 10:32:10 +0900] [1549] [INFO] Starting gunicorn 21.2.0
[2023-09-22 10:32:10 +0900] [1549] [INFO] Listening at: http://0.0.0.0:20500 (1549)
[2023-09-22 10:32:10 +0900] [1549] [INFO] Using worker: uvicorn.workers.UvicornWorker
[2023-09-22 10:32:10 +0900] [1551] [INFO] Booting worker with pid: 1551
[2023-09-22 10:32:10 +0900] [1551] [ERROR] Exception in worker process
Traceback (most recent call last):
  File "/home/testusr/.local/lib/python3.8/site-packages/gunicorn/arbiter.py", line 609, in spawn_worker
    worker.init_process()
  File "/home/testusr/.local/lib/python3.8/site-packages/uvicorn/workers.py", line 66, in init_process
    super(UvicornWorker, self).init_process()
  File "/home/testusr/.local/lib/python3.8/site-packages/gunicorn/workers/base.py", line 134, in init_process
    self.load_wsgi()
  File "/home/testusr/.local/lib/python3.8/site-packages/gunicorn/workers/base.py", line 146, in load_wsgi
    self.wsgi = self.app.wsgi()
  File "/home/testusr/.local/lib/python3.8/site-packages/gunicorn/app/base.py", line 67, in wsgi
    self.callable = self.load()
  File "/home/testusr/.local/lib/python3.8/site-packages/gunicorn/app/wsgiapp.py", line 58, in load
    return self.load_wsgiapp()
  File "/home/testusr/.local/lib/python3.8/site-packages/gunicorn/app/wsgiapp.py", line 48, in load_wsgiapp
    return util.import_app(self.app_uri)
  File "/home/testusr/.local/lib/python3.8/site-packages/gunicorn/util.py", line 371, in import_app
    mod = importlib.import_module(module)
  File "/usr/lib/python3.8/importlib/__init__.py", line 127, in import_module
    return _bootstrap._gcd_import(name[level:], package, level)
  File "<frozen importlib._bootstrap>", line 1014, in _gcd_import
  File "<frozen importlib._bootstrap>", line 991, in _find_and_load
  File "<frozen importlib._bootstrap>", line 975, in _find_and_load_unlocked
  File "<frozen importlib._bootstrap>", line 671, in _load_unlocked
  File "<frozen importlib._bootstrap_external>", line 848, in exec_module
  File "<frozen importlib._bootstrap>", line 219, in _call_with_frames_removed
  File "/workshop/python/testprj/fastapi/main.py", line 94, in <module>
    nest_asyncio.apply()
  File "/home/testusr/.local/lib/python3.8/site-packages/nest_asyncio.py", line 19, in apply
    _patch_loop(loop)
  File "/home/testusr/.local/lib/python3.8/site-packages/nest_asyncio.py", line 175, in _patch_loop
    raise ValueError('Can\'t patch loop of type %s' % type(loop))
ValueError: Can't patch loop of type <class 'uvloop.Loop'>

위의 오류는 uvicorn으로 호스팅했을 때도 nest-asyncio를 사용하면 발생하는 오류였습니다.

그래서 그때는 uvicorn의 --loop 옵션을 이용해 asyncio를 지정하는 것으로 해결했는데, gunicorn의 경우에는 오히려 코드에서 그냥 nest_asyncio.apply 호출을 안 하면 됩니다.

server_software = os.getenv("SERVER_SOFTWARE")
if server_software is not None and server_software.startswith("gunicorn"):
    pass  # gunicorn에서 실행한 경우
else:
    nest_asyncio.apply()  # uvicorn에서 실행하면 호출

어찌 보면 호스팅 환경에 따라 이런 식으로 호출 코드가 달라져야만 하는 게 좀 이상해 보일 수는 있겠는데, 따지고 보면 닷넷의 경우에도 IIS에서 호스팅일 때와 일반적인 독립 실행형으로 실행될 때와 달라질 수 있는 코드가 있는 경우도 발생하므로! ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]

[연관 글]






[최초 등록일: ]
[최종 수정일: 10/31/2023]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13945정성태6/7/2025387오류 유형: 960. 파이썬 + conda - mysqlclient 사용 시 "NameError: name '_mysql' is not defined" 에러
13944정성태6/7/2025400오류 유형: 959. The trust relationship between this workstation and the primary domain failed. - 네 번째 이야기
13943정성태6/6/2025537개발 환경 구성: 748. Windows + Foundry Local - 로컬에서 AI 모델 활용
13942정성태6/5/2025768오류 유형: 958. winget 설치 시 "0x80d02002 : unknown error"
13941정성태6/2/2025978닷넷: 2334. C# - cpuid 명령어를 이용한 CPU 제조사 문자열 가져오기파일 다운로드1
13940정성태6/1/20251376C/C++: 188. C++의 32비트 + Release 어셈블리 코드를 .NET으로 포팅할 때 주의할 점파일 다운로드1
13939정성태5/29/20251652오류 유형: 957. NVIDIA Triton Inference Server - version `GLIBCXX_3.4.32' not found (required by /opt/tritonserver/backends/python/triton_python_backend_stub)
13938정성태5/29/20251402개발 환경 구성: 747. 파이썬 - WSL/docker에 구성한 Triton 예제 개발 환경
13937정성태5/24/20251349개발 환경 구성: 746. Windows + WSL2 환경에서 (tensorflow 등의) NVIDIA GPU 인식
13936정성태5/23/20251177개발 환경 구성: 745. Linux / WSL 환경에 Miniconda 설치하기
13935정성태5/20/20251200파이썬 - pip 사용 시 "ImportError: cannot import name 'html5lib' from 'pip._vendor'" 오류
13934정성태5/20/20251706스크립트: 77. 파이썬 - 'urllib.request' 모듈의 명시적/암시적 로딩 차이
13933정성태5/19/20251284오류 유형: 956. Visual Studio 2022가 17.12 버전부터 업데이트 되지 않는다면?
13932정성태5/18/20251486스크립트: 76. 파이썬 - Version 문자열 다루기(semver 패키지)
13931정성태5/17/20251781스크립트: 75. 파이썬 - Cython 기본 예제 및 컴파일
13930정성태5/17/20251476개발 환경 구성: 744. 파이썬 - Windows embeddable package 환경에서 외부 패키지 사용하는 방법(ex: UFO² 환경 구성)
13929정성태5/16/20251490오류 유형: 955. 파이썬 - "Windows embeddable package" REPL 환경에서 "NameError: name 'exit' is not defined"
13928정성태5/15/20251541오류 유형: 954. UFO² - "'Invalid URL (POST /v1/chat/completions/chat/completions)'"
13927정성태5/15/20251530오류 유형: 953. OpenAI - The API request of HOST_AGENT failed: OpenAI API request exceeded rate limit: Error code: 429
13926정성태5/14/20251903개발 환경 구성: 743. LLM과 윈도우의 만남 - Desktop AgentOS UFO² 기본 환경 구성
13925정성태5/12/20252002닷넷: 2333. C# - (Console 유형의 프로젝트에서) Clipboard 연동파일 다운로드1
13924정성태5/8/20251739닷넷: 2332. C# - (JetBrains Omea Reader 대상으로) 런타임 시에 메서드 가로채기 [2]파일 다운로드1
13923정성태5/5/20251494스크립트: 74. 파이썬 - C# - Python.NET의 RunSimpleScript, Exec, Eval 차이점파일 다운로드1
13922정성태5/3/20251738스크립트: 73. 파이썬 - Windows embeddable package 버전에서 tkinter 환경 구성
13921정성태5/3/20252236오류 유형: 952. 듀얼 채널 메모리 정렬을 지키지 않은 컴퓨터의 Windows 비정상 종료 현상(Blue Screen) [2]
[1]  2  3  4  5  6  7  8  9  10  11  12  13  14  15  ...