오프라인 정확도와 온라인 지표 차이 경험으로 ML 서비스 배포 이해
캡스톤 프로젝트에서 스팸 분류 모델을 실 서비스에 연결해보면서 ML 서비스 배포의 복잡도를 처음 체감했습니다. 모델 정확도가 95%였어도 서비스에 붙인 뒤 실제 사용자 데이터에서 오분류 패턴이 다르게 나오는 문제가 생겼고, 오프라인과 온라인 지표를 별도로 추적하는 중요성을 배웠습니다. 비즈니스 성과를 측정하려고 스팸 신고율과 오탐으로 인한 정상 차단 건수를 지표로 정의했는데, 이 두 지표가 서로 트레이드오프 관계임을 분석 과정에서 알게 됐습니다.
ML 서비스는 모델 배포가 끝이 아니라 지표 모니터링 체계를 함께 설계해야 지속적으로 개선할 수 있다는 걸 이 경험에서 배웠습니다. 지금도 ML 기능을 추가할 때 어떤 비즈니스 지표를 개선하는가를 먼저 정의하는 방향을 따릅니다.