예시 답변 1
약 90초
GPU 스케줄러 개발로 학습 자원 효율화
AI 모델 학습을 위한 GPU 스케줄러를 직접 개발한 경험이 있습니다. 여러 팀이 공유 GPU 클러스터를 사용하다 보니 자원 충돌과 유휴 GPU 낭비가 심각했고, Kubernetes 기본 스케줄러는 GPU-aware하지 않아 커스텀 솔루션이 필요했습니다.
Python + gRPC로 스케줄러 서버를 구현하고, nvidia-smi 메트릭을 주기적으로 수집해 GPU 메모리 여유, 온도, 활용률을 기반으로 최적 노드를 선택했습니다. 가장 어려웠던 점은 다중 GPU 작업의 원자적 할당이었는데, 분산 락(Distributed Lock)을 Redis로 구현해 race condition을 제거했습니다. 기술 선택 이유는 gRPC의 낮은 지연과 Python 생태계의 ML 친화성이었습니다. 결과적으로 GPU 유휴율이 40%에서 12%로 감소했고, 팀 대기 시간도 크게 줄었습니다. 이 경험으로 인프라와 ML 경계를 넘나드는 시스템 설계 능력을 키웠습니다.
이 결의 특징
Kubernetes 기본 스케줄러의 GPU-aware 부재를 인식하고 커스텀 솔루션을 설계했다는 흐름이 이 결의 출발점입니다. Redis 분산 락으로 다중 GPU 원자적 할당의 race condition을 제거했다는 구현 선택이 인프라와 ML 경계를 넘나드는 경험을 드러내는 결이 자주 보입니다.
면접관이 다음에 할 행동
'GPU 유휴율 12%까지 줄였는데, 그 이하로 낮추지 않은 이유가 있나요?'를 이어받을 가능성이 높습니다. 목표 수치 달성 과정을 구체적으로 설명했기 때문에 최적화 한계 설정 기준과 운영 안정성 판단으로 심화 탐색이 이어지는 결이 보입니다.