예시 답변 1
약 84초
병목 파악 결 → 프로파일링 결 → 튜닝 결 → 결과 결
GPU 프로파일링·튜닝으로 성능을 개선한 경험은 학과 딥러닝 프로젝트에서 학습 속도가 예상보다 느려 병목 자리를 찾아 개선하면서 왔습니다. 병목 파악 자리에서는 처음에는 모델 구조를 바꿔야 하는 줄 알았는데, 프로파일링을 해보니 GPU 사용률이 낮고 데이터 로딩이 병목이었습니다. 프로파일링 자리에서는 PyTorch의 torch.profiler를 사용해 연산별 시간과 GPU 점유율을 확인했습니다. 어느 자리에서 시간이 가장 많이 쓰이는지를 눈으로 보고 나서 최적화 방향이 명확해졌습니다. 튜닝 자리에서는 DataLoader의 num_workers를 늘려 데이터 전처리를 병렬화하고, 메모리 핀닝을 활성화했습니다. GPU가 데이터를 기다리는 자리가 크게 줄었습니다. 결과 자리에서는 학습 시간이 약 30% 단축됐고, GPU 사용률이 눈에 띄게 올라갔습니다.
이 결의 특징
딥러닝 프로젝트에서 모델 구조가 아닌 DataLoader가 병목임을 torch.profiler로 확인한 뒤 num_workers 증가와 메모리 핀닝으로 GPU 대기 시간을 줄여 학습 시간을 30% 단축한 흔적이 있습니다. 직관이 아닌 프로파일링 데이터가 최적화 방향을 결정한다는 결이 드러납니다.
이 결이 통하는 자리
병목 파악, 프로파일링, 튜닝, 결과 측정이라는 순서 감각이 살아 있고, GPU 사용률과 학습 시간이라는 구체 수치로 닫힐 때 통합니다. ML 인프라나 학습 파이프라인 최적화를 다루는 포지션에서 면접관의 꼬리질문이 줄어드는 결이 보입니다.