예시 답변 1
약 90초
ML 서빙 서비스의 Kubernetes 배포와 운영
Kubernetes 위에서 ML 모델 서빙 서비스를 개발하고 운영한 경험이 있습니다. Deployment + HPA(Horizontal Pod Autoscaler)로 트래픽 변동에 따라 Pod가 자동으로 스케일되는 구조를 설계했습니다. 초기에는 Pod 기동 시 모델 로딩 시간이 길어 Cold Start 지연이 발생하는 문제가 있었고, Init Container에서 모델을 미리 캐싱하는 방식으로 해결했습니다. 인프라 구성으로는 Helm Chart로 배포를 표준화하고, 환경별(dev/staging/prod) 설정 분리를 Values 파일로 관리했습니다. 운영 중 겪은 가장 큰 장애는 Node 메모리 부족으로 인한 OOMKilled였고, 이를 통해 리소스 requests/limits 설정의 중요성을 체감했습니다.
이 결의 특징
HPA 자동 스케일과 Init Container 모델 캐싱이라는 구체적인 컴포넌트가 등장하고, Node OOMKilled 장애를 통해 requests/limits 설정의 중요성을 체감했다는 흔적이 있습니다. 도구를 나열하는 게 아니라 장애 경험으로 체득한 결로 읽히는 서술입니다.
면접관이 다음에 할 행동
OOMKilled 장애 언급이 있으면 면접관이 당시 대응 과정보다 장애 이후 requests/limits를 어떤 기준으로 조정했는지 수치나 산정 방식을 파고드는 방향으로 이동하는 흐름이 자주 보입니다. 꼬리질문이 장애 재현 방지 체계 쪽으로 이어지는 경향이 있습니다.