RuntimeError: CUDA out of memory.
Yewon-dev opened this issue · 0 comments
Yewon-dev commented
❗️Error Description
- Error Message
RuntimeError: CUDA out of memory. Tried to allocate 122.00 MiB
(GPU 0; 3.95 GiB total capacity; 3.08 GiB already allocated; 44.44 MiB free; 280.89 MiB cached)✔️ Solution Description
Case 1
- 모델의 output을 다른 함수나 코드에 사용하는 경우, 메모리 반환이 이루어지지 않음 -> output을 복사한 후 사용
Case 2
- 학습 데이터 및 GPU cache 삭제
del trainData # 학습 데이터 삭제
torch.cuda.empty_cache() # GPU 캐시 데이터 삭제Case 3
- batch size 줄이기
(but, not recommended..)