경험 중심 1인칭 답변
인턴 때 추천 모델이 배포된 후 성능이 점점 떨어지는 문제를 추적했습니다. 데이터 드리프트(Data Drift)가 원인이었습니다. 학습 당시와 실제 서비스 데이터의 분포가 달라지면서 모델 예측 품질이 내려갔습니다. 저는 입력 피처 분포를 주기적으로 기준값과 비교하는 모니터링 파이프라인을 만들었습니다. KL divergence로 분포 차이를 수치화하고, 임계값을 넘으면 슬랙 알림이 오도록 설정했습니다. 재학습 트리거 기준도 자동으로 평가 지표가 N% 하락하면 실행되도록 구성했습니다. 이 구조 덕분에 이후 6주 동안 성능 저하를 조기에 감지해 3회 재학습을 적시에 진행했습니다. 모델은 배포가 끝이 아니라 모니터링이 진짜 시작이라는 걸 배웠습니다. 앞으로도 모델을 운영할 때 배포가 끝이 아니라 모니터링이 진짜 시작이라는 원칙을 유지하겠습니다.
드리프트는 예측 가능한 문제이므로, 감지 자동화로 대응 속도를 높이는 것이 핵심입니다.