경험 중심 1인칭 답변
ML 기반 추천 시스템을 설계할 때 제가 가장 중요하게 보는 것은 콜드 스타트 문제 해결 방식입니다. 신규 유저와 신규 아이템에 대한 추천이 없으면 서비스 초기 경험이 나빠지고, 이탈로 이어집니다. 협업 필터링은 히스토리가 충분한 유저에게는 강력하지만, 콜드 스타트에 약하기 때문에 콘텐츠 기반 필터링과 하이브리드로 구성하는 방식을 선호합니다. 두 번째로 중요하게 보는 것은 오프라인 지표와 온라인 지표의 일치 여부입니다. 모델이 NDCG나 Recall 기준으로 좋아도 실제 클릭률이나 구매 전환율과 다른 경우가 많아서, A/B 테스트와 함께 운영하는 구조가 필요합니다. 또한 추천 결과의 다양성을 의도적으로 관리하지 않으면 필터 버블이 생겨 장기적으로 유저 만족도가 하락하는 문제가 있습니다. 이 세 가지가 설계 초기에 결정되어야 한다고 생각합니다. 앞으로도 콜드 스타트 대응·오프라인-온라인 지표 일치·다양성 관리 세 가지를 추천 시스템 설계의 기본 축으로 다루겠습니다.
모델 성능보다 실제 전환율에서 확인하는 것이 추천 시스템 품질의 실질적인 기준입니다.