이 질문 뒤에 면접관이 확인하려는 것은 따로 있습니다.
대규모 머신러닝 모델을 설계할 때 제가 가장 중요하게 생각하는 건 데이터 품질과 파이프라인 안정성입니다. 모델 알고리즘이 아무리 좋아도 입력 데이터가 나쁘면 결과도 나쁩니다. 수업에서 같은 모델을 다른 데이터로 학습했을 때 성능 차이가 크게 나는 경험을 했는데, 데이터 전처리가 모델 튜닝보다 성능에 더 큰 영향을 준다는 걸 알게 됐습니다. 개인 프로젝트에서 크롤링한 데이터를 정제하지 않고 학습에 썼더니 예측이 전혀 엉뚱한 방향으로 나온 적이 있었습니다. 원인을 찾으니 노이즈가 많은 샘플이 포함된 것이었습니다.
데이터를 검증하는 단계가 없으면 모델이 잘못된 방향을 학습한다는 걸 그때 확인했습니다. 대규모에서는 이 문제가 더 크게 작용하기 때문에 데이터 수집부터 검증까지의 파이프라인 설계가 모델 자체보다 먼저 잡혀야 한다고 생각합니다.
대규모 머신러닝 모델에서 제가 중요하게 생각하는 건 실제 서비스에서 어떻게 작동하느냐입니다. 모델이 좋은 성능을 내도 대규모 트래픽에서 응답이 느리거나 불안정하면 운영이 불가능합니다. 수업에서 모델 서빙 단계의 지연 시간과 처리량이 학습 성능 못지않게 중요하다는 내용을 배우면서, 모델 개발이 학습으로 끝나지 않는다는 걸 알게 됐습니다. 소규모 프로젝트에서 로컬에서 잘 되던 모델이 서버 환경에서 배포했을 때 예상과 다르게 동작한 경험이 있었습니다. 환경 차이와 메모리 한계가 원인이었습니다.
개발 환경과 운영 환경의 차이를 미리 고려하지 않으면 나중에 수정 비용이 큽니다. 모델 설계 초기부터 어떤 환경에서 어떤 부하로 동작할지를 함께 고려하는 것이 중요하다고 생각합니다.
대규모 머신러닝 모델 설계에서 놓치기 쉬운 부분이 배포 이후의 모니터링이라고 생각합니다. 학습할 때 좋은 성능을 냈어도 실제 데이터 분포가 바뀌면 시간이 지나면서 성능이 떨어질 수 있습니다. 수업에서 데이터 드리프트 개념을 배우면서, 운영 환경에서 입력 데이터 분포가 바뀌면 모델이 엉뚱한 결과를 낼 수 있다는 걸 알게 됐습니다. 소규모 프로젝트에서 학습 당시에는 맞았는데 나중에 새 데이터를 넣으니 성능이 낮아지는 상황을 경험했습니다. 재학습이 필요하다는 걸 늦게 알아서 기간이 길어졌습니다.
언제 재학습이 필요한지 판단하는 기준을 미리 설계하지 않으면 운영 중에 모델 문제를 늦게 발견하게 됩니다. 성능 지표 모니터링과 재학습 트리거를 초기 설계에 포함하는 것이 중요하다고 생각합니다.
답변에서 흔히 빠지는 것들 — 빠져 있으면 꼬리질문이 깊어집니다.
이 질문에 이어 당근마켓 ML 엔지니어 면접관이 던질 가능성이 높은 후속 질문.
이 페이지의 질문·답변·꼬리질문은 유사 직군 채용 시장의 공개된 면접 후기·커뮤니티 게시물을 분석해 구성한 학습 자료입니다. 특정 회사가 실제로 이 질문을 출제했다는 것을 보장하지 않으며, 모든 예시는 우문현답이 직접 작성한 창작물입니다. 해당 회사의 공식 입장과는 무관합니다. 회사 측의 정정 요청이 있을 경우 24시간 이내에 응답·수정합니다.