이 질문 뒤에 면접관이 확인하려는 것은 따로 있습니다.
졸업 프로젝트에서 주기적으로 모델을 재학습하는 파이프라인이 필요했는데, 서버를 상시 유지하는 비용이 부담되어 서버리스 구조를 선택하였습니다. AWS Lambda와 Step Functions를 조합하여 데이터 전처리부터 학습 완료 후 알림까지 단계별로 연결하였습니다. 처음에는 Lambda 실행 시간 제한(15분) 때문에 무거운 학습 작업이 잘렸지만, SageMaker Training Job으로 학습 단계만 분리하여 해결하였습니다. 서버리스가 만능은 아니며, 어떤 단계를 서버리스로 둘지를 설계하는 것이 진정한 선택이라는 것을 배웠습니다.
클라우드 비용은 설계 단계에서 이미 결정된다는 것을 그 프로젝트를 통해 처음 실감하였습니다.
서버리스 ML 훈련을 고려할 때 저는 비용과 재현성을 가장 먼저 봐요. GCP Cloud Run으로 가벼운 추론 서빙은 운영해봤는데, 학습처럼 긴 작업에는 콜드 스타트 문제와 실행 시간 제한이 걸림돌이 됐습니다. 결국 학습 자체는 Vertex AI나 SageMaker처럼 관리형 학습 환경을 쓰고, 트리거와 전처리만 서버리스로 두는 방식이 실용적이라고 생각해요.
어떤 도구가 최선인지보다 어디서 서버리스가 실용적인지를 먼저 따지는 것이 제 접근입니다. 서버리스의 장점은 자원의 유연성이지만, ML 워크로드에는 그 유연성이 오히려 예측 불가능성으로 이어질 수 있다는 걸 경험으로 배웠습니다.
팀 프로젝트에서 ML 훈련 비용을 줄이자는 논의가 나왔을 때, 저는 서버리스 전환 가능성을 조사해서 제안했어요. Kubeflow 기반 클러스터는 관리 부담이 크고, 우리 프로젝트 규모엔 과했기 때문에 GitHub Actions로 학습 트리거를 걸고 Colab Enterprise로 연결하는 경량 파이프라인을 설계했습니다. 완전한 서버리스는 아니었지만, 사용할 때만 자원을 쓰는 구조는 달성했어요. 이후 비용 모니터링 대시보드를 만들어서 학습 1회당 비용을 추적했더니, 팀 내 실험 횟수가 눈에 띄게 늘었습니다.
인프라 선택이 팀의 실험 속도를 결정한다는 걸 그 프로젝트를 통해 직접 확인했어요.
답변에서 흔히 빠지는 것들 — 빠져 있으면 꼬리질문이 깊어집니다.
이 질문에 이어 당근마켓 ML 인프라 면접관이 던질 가능성이 높은 후속 질문.
이 페이지의 질문·답변·꼬리질문은 유사 직군 채용 시장의 공개된 면접 후기·커뮤니티 게시물을 분석해 구성한 학습 자료입니다. 특정 회사가 실제로 이 질문을 출제했다는 것을 보장하지 않으며, 모든 예시는 우문현답이 직접 작성한 창작물입니다. 해당 회사의 공식 입장과는 무관합니다. 회사 측의 정정 요청이 있을 경우 24시간 이내에 응답·수정합니다.