우문현답
愚 問 賢 答
회사별 면접직군별진행 방식
    홈›회사별›토스›ML 엔지니어›질문 상세
    問
    토토스ML 엔지니어경험·이력2026년 출제

    ML/LLM 모델 서빙을 위한 Kubeflow 기반 플랫폼 운영 경험에 대해 이야기해 주세요.

    답변 미리보기

    인턴 때 팀에서 매번 수동으로 스크립트를 실행하여 모델을 학습시키고 있었습니다. 실험 재현이 안 되는 문제가 반복되어, Kubeflow Pipelines로…

    예상 답변 시간
    90초
    예상 꼬리질문
    3회
    난이도
    난이도 중상
    출제 빈도
    보통
    INTERVIEWER'S INTENT · 면접관의 의도

    이 질문, 네 갈래로 뜯어봅니다.

    면접관이 이 한 문장으로 확인하려는 것들. 각 갈래를 알면 답의 뼈대가 잡혀요.

    問
    01
    서빙 경험이 있는가?
    ML/LLM 모델 서빙 경험에 대한 흔적이 답에 있어야 합니다. 없으면 면접관이 '구체적으로 어떤 모델을 서빙했나요?'를 추가로 묻는 경우가 자주 보입니다.
    骨
    02
    Kubeflow 활용 경험이 있는가?
    Kubeflow를 활용한 경험에 대한 흔적이 답에 있어야 합니다. 없으면 면접관이 '어떤 기능을 사용했나요?'를 추가로 묻는 자리에서 자주 보입니다.
    語
    03
    운영 과정에서의 문제 해결 경험은?
    운영 과정에서의 문제 해결 경험에 대한 흔적이 답에 있어야 합니다. 없으면 면접관이 '어떤 문제를 어떻게 해결했나요?'를 묻는 경우가 많습니다.
    本
    04
    팀과의 협업 경험이 있는가?
    팀과의 협업 경험에 대한 흔적이 답에 있어야 합니다. 없으면 면접관이 '어떤 역할을 맡았나요?'를 추가로 묻는 경우가 자주 보입니다.
    말로 해봐야 는다
    읽는 것과 말하는 건 다릅니다.
    이 질문, 소리 내어 답해 볼까요?
    토스 면접관 페르소나가 이 질문을 던지고, 당신의 답에 꼬리질문으로 되물어요.
    음성으로 답해보기
    경험 중심 — 수동 학습 스크립트를 파이프라인으로 전환한 경험약 120초경험 중심 — 모델 버전 전환 시 서비스 중단이 생겼던 실패 경험약 110초가정형 질문 — 직접 서빙 경험 기반 1인칭 답변약 100초
    Kubeflow Pipelines로 학습 파이프라인 자동화
    약 120초

    경험 중심 — 수동 학습 스크립트를 파이프라인으로 전환한 경험

    인턴 때 팀에서 매번 수동으로 스크립트를 실행하여 모델을 학습시키고 있었습니다. 실험 재현이 안 되는 문제가 반복되어, Kubeflow Pipelines로 전처리 → 학습 → 평가 단계를 컴포넌트로 분리하는 작업을 맡았습니다.

    처음에는 컴포넌트 간 아티팩트 전달 방식을 잘못 이해하여, 학습된 모델 파일이 다음 단계에 넘어가지 않는 문제가 발생했습니다. output_path를 마운트된 볼륨 경로로 설정해야 하는데 로컬 경로로 잘못 설정한 것이 원인이었습니다.

    수정을 한 후 파이프라인이 정상적으로 동작하였고, 실험 10개를 병렬로 실행할 수 있게 되었습니다. 실험 재현율도 향상되었으며, 팀에서는 이제 어떤 실험이 어떤 데이터로 진행되었는지를 추적할 수 있다는 긍정적인 피드백을 받았습니다.

    이 결의 특징
    수동 학습 스크립트의 재현성 문제를 Kubeflow Pipelines 컴포넌트 분리로 해결한 흔적이 있습니다.
    이 결이 통하는 자리
    아티팩트 전달 경로 설정 실수를 겪고 실험 10개를 병렬 실행할 수 있게 만든 구체 성과가 답에 담겨 있을 때 면접관의 신뢰가 쌓이는 자리를 자주 봅니다.
    LLM 서빙 — 모델 교체 시 무중단 배포 경험
    약 110초

    경험 중심 — 모델 버전 전환 시 서비스 중단이 생겼던 실패 경험

    졸업 프로젝트에서 작은 LLM 모델을 API로 서빙하다가, 더 나은 모델로 교체하려 했는데 그냥 컨테이너를 내리고 올리는 방식으로 했더니 30초 넘게 서비스가 끊겼어요.

    이후 Kubernetes의 rolling update 전략을 쓰도록 바꿨는데, 문제는 모델 파일 크기가 3GB라 로딩에 20초가 걸렸고, 새 파드가 올라오기 전에 헬스체크가 실패해서 배포가 롤백되는 현상이 반복됐어요.

    initialDelaySeconds를 늘리고, 모델 파일을 미리 캐시에 올려두는 init 컨테이너를 추가해서 해결했습니다. 모델 서빙은 일반 API와 다르게 시작 시간이 길어서 헬스체크 튜닝이 중요하다는 걸 이때 배웠어요.

    이 결의 특징
    모델 교체 시 서비스가 끊긴 실패를 롤링 업데이트와 헬스체크 튜닝으로 개선한 흔적이 있습니다.
    이 결이 통하는 자리
    모델 서빙은 시작 시간이 길어 헬스체크 튜닝이 중요하다는 관점이 구체적으로 담긴 답에서 통합니다.
    Kubeflow 경험 없음 — NLP 모델 직접 배포 경험 기반
    약 100초

    가정형 질문 — 직접 서빙 경험 기반 1인칭 답변

    Kubeflow를 직접 써본 경험은 없지만, 개인 프로젝트에서 BERT 기반 감성 분류 모델을 FastAPI로 서빙하고 Docker로 배포한 경험이 있어요.

    그때 가장 힘들었던 건 모델 파일을 이미지에 넣으면 빌드 시간이 너무 길어지는 문제였어요. 결국 모델은 S3에 올리고 컨테이너 시작 시 내려받는 방식으로 바꿨는데, 환경별로 모델 버전을 다르게 가져가야 할 때 관리가 복잡해졌습니다.

    Kubeflow의 모델 레지스트리나 KFServing 같은 도구가 이런 버전 관리를 편하게 해준다는 걸 이후 문서를 보고 알게 됐어요. 팀 규모가 커지면 이런 도구 없이는 실험과 배포가 뒤섞여 혼란이 생기겠다고 느껴서, 기회가 되면 직접 써보고 싶어요.

    이 결의 특징
    Kubeflow 경험이 없음을 인정하면서도 개인 프로젝트의 모델 배포 경험으로 답한 흔적이 있습니다.
    이 결이 통하는 자리
    팀 규모가 커지면 모델 레지스트리 같은 도구 없이는 혼란이 생길 것이라는 관점이 답에 담겨 있을 때 면접관의 신뢰가 쌓이는 결이 보입니다.
    !
    위 답변은 여러 풀이 중 한 가지 예시입니다. 정답이 아니며, 외워서 그대로 말하면 면접관이 다음 질문을 그 자리에서 시작하는 경우가 많습니다. 본인의 프로젝트·기준·숫자로 다시 짜는 자리로만 쓰세요.
    ✕자주 빠지는 자리

    같은 실수가 반복돼요. 이것만 피해도 절반은 갑니다.

    • ✕떨어뜨린 옵션이 1개라도 있는가? "이게 답이었어요"만으로는 의사결정이 아니라 그냥 선택입니다.
    • ✕선택 기준이 그 프로젝트에 한정되는가? "성능이 좋아서"는 일반론, "우리 트래픽이 X 패턴이라서"가 본인의 답입니다.
    • ✕결과 숫자 1개를 정확히 말할 수 있는가? P95·QPS·적중률 — 무엇이든 1개. 숫자가 없으면 직감으로 한 일처럼 들리기 쉽습니다.
    • ✕지금 다시 한다면 어떻게 할지 답할 수 있는가? "잘했다"보다 "이건 다르게 했을 것 같다"가 더 깊은 인상을 남깁니다.
    ▶이어질 꼬리질문

    진짜 면접은 두 번째 질문부터예요. 이 답 뒤에 따라올 법한 것들.

    壹Kubeflow를 선택한 이유는 무엇인가요?
    貳운영 중 발생한 문제는 무엇이었나요?
    參팀원들과의 협업은 어땠나요?
    이제, 직접 답해볼 차례예요.
    눈으로 읽은 답은 면접장에서 나오지 않아요. 토스 면접관과 이 질문으로 한 번 대화해 보세요.
    이 질문으로 모의면접 해보기
    또는, 다음 질문으로

    같은 흐름에서 자주 이어지는 질문들이에요.

    경남은행 · 공통직무·미지정
    LLM AI 모델 개발 및 PoC 수행 경험에 대해 구체적으로 이야기해 주세요.
    이 질문 보기
    토스 · MLOps
    MLFlow와 Airflow를 활용한 머신러닝 플랫폼 구축 경험에 대해 이야기해 주세요.
    이 질문 보기
    삼성바이오에피스 · 공통직무·미지정
    최신 LLM 시스템 개발 경험에 대해 설명해 주세요.
    이 질문 보기
    카카오 · ML 엔지니어
    ML/LLM 모델의 End-to-End 경험을 구체적으로 설명해줄 수 있나요? 어떤 프로젝트에서 어떤 역할을 했는지 궁금합니다.
    이 질문 보기
    안내 · 이 페이지의 질문·답변·꼬리질문은 유사 직군 채용 시장의 공개된 면접 후기·커뮤니티 게시물을 분석해 구성한 학습 자료입니다. 실제 출제·회사 공식 입장과는 무관하며, 정정 요청 시 24시간 내 반영합니다. 자세히
    개인정보처리방침이용약관문의
    © 2026 우문현답. All rights reserved.
    이 페이지 목차
    01면접관의 의도02답변의 결03실수·꼬리질문04관련 질문
    말로 해봐야 는다
    이 질문, 토스 면접관과
    음성으로 답해볼까요?
    모의면접 해보기
    첫 회 무료 · 종료 즉시 음성 폐기