A
약 120초
스팟 인스턴스 + 체크포인트로 GPU 비용 절감, 사전학습 파인튜닝 전략
GPU 및 클라우드 비용 효율화 전략으로 직접 경험한 것은 스팟 인스턴스 활용입니다. 학습 잡이 중단돼도 체크포인트에서 재시작할 수 있게 설계하면, 온디맨드 대비 비용을 크게 줄일 수 있습니다. 졸업 프로젝트에서 체크포인트를 5 에포크마다 저장하는 방식으로 스팟 중단에 대비했고, 실제로 두 번 중단됐지만 손실 없이 재시작할 수 있었습니다. 모델 측면에서는 큰 모델을 처음부터 학습하기보다 사전학습 모델을 파인튜닝하는 것이 비용과 시간 모두 효율적이었습니다. 비용 모니터링은 예산 알람을 미리 설정해두는 것이 기본이라고 봅니다. 한계는 모델 경량화(Pruning, Quantization)는 이론으로만 알고 있고, 직접 적용해본 경험은 없습니다.
이 결의 특징
스팟 인스턴스 중단에 대비해 5 에포크마다 체크포인트를 저장하고 실제 두 번 중단에서 손실 없이 재시작한 흔적이 있습니다. 경량화(Pruning, Quantization)는 이론으로만 안다는 한계를 명시하면서도 사전학습 파인튜닝의 비용-성능 이점을 직접 경험으로 연결한 결이 자주 보입니다.
이 결이 통하는 자리
'체크포인트 저장 주기'와 '실제 중단 횟수'가 구체 숫자로 살아 있고, 한계 영역을 솔직하게 분리한 자리에서 통합니다. 비용 절감을 인스턴스 종류 선택이 아닌 재시작 설계로 풀었다는 접근 차이가 드러나는 자리에서 면접관의 꼬리질문이 줄어드는 결이 보입니다.