Microsoft MVP성태의 닷넷 이야기
글쓴 사람
정성태 (techsharer at outlook.com)
홈페이지
첨부 파일
 

파이썬 tensorflow - Dst tensor is not initialized. 오류 메시지

이런 오류가 발생한다면?

2021-08-29 12:45:04.918972: I tensorflow/core/platform/cpu_feature_guard.cc:142] This TensorFlow binary is optimized with oneAPI Deep Neural Network Library (oneDNN) to use the following CPU instructions in performance-critical operations:  AVX AVX2
To enable them in other operations, rebuild TensorFlow with the appropriate compiler flags.
2021-08-29 12:45:05.625247: I tensorflow/core/common_runtime/gpu/gpu_device.cc:1510] Created device /job:localhost/replica:0/task:0/device:GPU:0 with 6643 MB memory:  -> device: 0, name: NVIDIA GeForce GTX 1070, pci bus id: 0000:01:00.0, compute capability: 6.1
2021-08-29 12:45:06.153571: I tensorflow/compiler/mlir/mlir_graph_optimization_pass.cc:185] None of the MLIR Optimization Passes are enabled (registered 2)
Epoch 1/10
 994/1000 [============================>.] - ETA: 0s - loss: 1.1682 - accuracy: 0.88972021-08-29 12:45:23.530835: W tensorflow/core/common_runtime/bfc_allocator.cc:457] Allocator (GPU_0_bfc) ran out of memory trying to allocate 7.48GiB (rounded to 8028160000)requested by op _EagerConst
If the cause is memory fragmentation maybe the environment variable 'TF_GPU_ALLOCATOR=cuda_malloc_async' will improve the situation. 
Current allocation summary follows.
Current allocation summary follows.
2021-08-29 12:45:23.532022: I tensorflow/core/common_runtime/bfc_allocator.cc:1004] BFCAllocator dump for GPU_0_bfc
2021-08-29 12:45:23.532270: I tensorflow/core/common_runtime/bfc_allocator.cc:1011] Bin (256):  Total Chunks: 35, Chunks in use: 35. 8.8KiB allocated for chunks. 8.8KiB in use in bin. 480B client-requested in use in bin.
2021-08-29 12:45:23.532546: I tensorflow/core/common_runtime/bfc_allocator.cc:1011] Bin (512):  Total Chunks: 3, Chunks in use: 3. 1.5KiB allocated for chunks. 1.5KiB in use in bin. 1.5KiB client-requested in use in bin.
...[생략]...
2021-08-29 12:45:23.581168: I tensorflow/core/common_runtime/bfc_allocator.cc:1068] 1 Chunks of size 156800000 totalling 149.54MiB
2021-08-29 12:45:23.581357: I tensorflow/core/common_runtime/bfc_allocator.cc:1072] Sum Total of in-use chunks: 188.12MiB
2021-08-29 12:45:23.581524: I tensorflow/core/common_runtime/bfc_allocator.cc:1074] total_region_allocated_bytes_: 6966018048 memory_limit_: 6966018048 available bytes: 0 curr_region_allocation_bytes_: 13932036096
2021-08-29 12:45:23.581776: I tensorflow/core/common_runtime/bfc_allocator.cc:1080] Stats: 
Limit:                      6966018048
InUse:                       197255168
MaxInUse:                    197255168
NumAllocs:                       37070
MaxAllocSize:                156800000
Reserved:                            0
PeakReserved:                        0
LargestFreeBlock:                    0

2021-08-29 12:45:23.582270: W tensorflow/core/common_runtime/bfc_allocator.cc:468] ***_________________________________________________________________________________________________
Traceback (most recent call last):
...[생략]...
  File "E:\Anaconda3\lib\site-packages\tensorflow\python\framework\constant_op.py", line 106, in convert_to_eager_tensor
    return ops.EagerTensor(value, ctx.device_name, dtype)
tensorflow.python.framework.errors_impl.InternalError: Failed copying input tensor from /job:localhost/replica:0/task:0/device:CPU:0 to /job:localhost/replica:0/task:0/device:GPU:0 in order to run _EagerConst: Dst tensor is not initialized.

Process finished with exit code 1

원인은 메모리 부족일 수 있고, dataset 크기를 줄여서 넣으면 잘 될 것입니다. ^^ 그런데, 경우에 따라 잘못된 차원의 dataset을 넣었을 때도 발생하기도 하므로 "파이썬 tensorflow - ValueError: Shapes (...) and (...) are incompatible"에서처럼 데이터셋이 정상적인 차원을 가지고 있는지 검사할 필요도 있습니다.




참고로, 메시지 중간에 보면 이런 권고 사항이 있는데요,

W tensorflow/core/common_runtime/bfc_allocator.cc:457] Allocator (GPU_0_bfc) ran out of memory trying to allocate 7.48GiB (rounded to 8028160000)requested by op _EagerConst
If the cause is memory fragmentation maybe the environment variable 'TF_GPU_ALLOCATOR=cuda_malloc_async' will improve the situation. 
Current allocation summary follows.

실제로 이것을 설정하고,

os.putenv('TF_GPU_ALLOCATOR', 'cuda_malloc_async')

실행해 봤지만, 다음과 같이 Async allocator를 사용하겠다는 메시지만 나온 후 잠시 후에 비정상 종료를 했습니다.

2021-08-29 13:36:43.083542: I tensorflow/core/platform/cpu_feature_guard.cc:142] This TensorFlow binary is optimized with oneAPI Deep Neural Network Library (oneDNN) to use the following CPU instructions in performance-critical operations:  AVX AVX2
To enable them in other operations, rebuild TensorFlow with the appropriate compiler flags.
2021-08-29 13:36:43.726382: I tensorflow/core/common_runtime/gpu/gpu_process_state.cc:215] Using CUDA malloc Async allocator for GPU: 0

Process finished with exit code -1073740940 (0xC0000374)

그냥, 메모리 소비를 줄이는 것이 답인 듯합니다. ^^




[이 글에 대해서 여러분들과 의견을 공유하고 싶습니다. 틀리거나 미흡한 부분 또는 의문 사항이 있으시면 언제든 댓글 남겨주십시오.]







[최초 등록일: ]
[최종 수정일: 9/2/2021]

Creative Commons License
이 저작물은 크리에이티브 커먼즈 코리아 저작자표시-비영리-변경금지 2.0 대한민국 라이센스에 따라 이용하실 수 있습니다.
by SeongTae Jeong, mailto:techsharer at outlook.com

비밀번호

댓글 작성자
 




1  [2]  3  4  5  6  7  8  9  10  11  12  13  14  15  ...
NoWriterDateCnt.TitleFile(s)
13988정성태8/8/20253028오류 유형: 974. 비주얼 스튜디오 업데이트 시 잠김 파일 경고 - Visual Studio Standard Collector Service 150 (VSStandardCollectorService150)
13987정성태8/7/20252671닷넷: 2351. C# 14 - (6) event와 생성자에도 partial 메서드 적용파일 다운로드1
13986정성태8/6/20252295닷넷: 2350. C# 14 - (5) 람다 매개 변수에 접근자가 있는 경우에도 타입 생략 가능파일 다운로드1
13985정성태8/6/20252812오류 유형: 973. "wsl --install" 명령어 수행 시 "The server name or address could not be resolved"
13984정성태8/6/20252686Windows: 282. 윈도우 운영체제에 추가된 ssh 서버(Win32-OpenSSH)
13983정성태8/4/20252633오류 유형: 972. Microsoft.Data.SqlClient 6.1.0 버전부터 .NET 8 이상만 지원
13982정성태8/2/20252932개발 환경 구성: 753. CentOS 7 컨테이너 내에서 openssh 서버 호스팅
13981정성태8/1/20252490오류 유형: 971. CentOS 7에서 yum 사용 시 "Could not resolve host: mirrorlist.centos.org; Unknown error"
13980정성태7/31/20252592Linux: 119. eBPF - BPF_PROG_TYPE_CGROUP_SOCK 유형에서 정상 동작하지 않는 BPF_CORE_READ (2)
13979정성태7/30/20253075Linux: 118. eBPF - BPF_PROG_TYPE_CGROUP_SOCK 유형에서 정상 동작하지 않는 BPF_CORE_READ
13978정성태7/29/20252522오류 유형: 970. 파일 복사 시 "Data error (cyclic redundancy check). (0x80070017)" 에러
13977정성태7/28/20252990닷넷: 2349. C# 14 - (4) 문자열 리터럴을 utf-8 인코딩으로 저장파일 다운로드1
13976정성태7/25/20252904닷넷: 2348. C# - 카카오 카나나 모델 + Microsoft.ML.OnnxRuntimeGenAI 예제파일 다운로드1
13975정성태7/23/20252778닷넷: 2347. C# 14 - (3) 형식 인자가 없는 제네릭 타입의 nameof 지원파일 다운로드1
13974정성태7/22/20252957닷넷: 2346. C# 14 - (2) Span 타입과 배열 간의 암시적 형변환파일 다운로드1
13973정성태7/21/20253083닷넷: 2345. C# - 배열 및 Span의 공변성파일 다운로드1
13972정성태7/21/20252764닷넷: 2344. C#의 Identity conversion 의미파일 다운로드1
13971정성태7/17/20252994닷넷: 2343. C# 14 - (1) 속성 구문에서 문맥 키워드로 추가되는 field 예약어파일 다운로드1
13970정성태7/17/20252685닷넷: 2342. C# 14 - (취소된 글)
13969정성태7/17/20252652닷넷: 2341. snap으로 설치한 .NET 리눅스 실행 환경
13968정성태7/16/20252639오류 유형: 969. lddtree - TypeError: 'type' object is not subscriptable
13967정성태7/16/20253434오류 유형: 968. snap으로 설치한 "dotnet run" 실행 시 "undefined symbol: _dl_audit_symbind_alt, version GLIBC_PRIVATE" 오류
13966정성태7/15/20254025디버깅 기술: 223. WinDbg - .kframes 명령어
13965정성태7/11/20253183오류 유형: 967. 디버깅 모드로 실행 시 "Could not find file 'C:\Program Files\IIS Express\Oracle.DataAccess.Common.Configuration.Section.xsd'" 예외
13964정성태7/10/20254405닷넷: 2340. C# - Win32 Multimedia Timer 주기파일 다운로드1
13963정성태7/8/20253790VS.NET IDE: 202. Visual Studio 2022 + Copilot 기본 사용법
1  [2]  3  4  5  6  7  8  9  10  11  12  13  14  15  ...