추천 시스템의 문제 해결 과정에서 데이터를 기반으로 한 가설 수립 경험에 대해 이야기해 주세요.

추천 시스템의 롱테일 아이템 노출이 극단적으로 낮고 인기 아이템만 반복 노출되는 현상에서 인기편향 가설을 수립했습니다. 전체 클릭의 80%가 상위 1% 아이템에서 발생하는 데이터를 확인했고, 이것이 알고리즘 자체의 구조적 문제인지 사용자 선호를 반영한 것인지를 구분해야 했습니다.

가설: 모델이 훈련 데이터의 인기 편향을 증폭하고 있다를 세우고, 인기 아이템 제거 상태에서의 클릭률을 별도 실험으로 측정했습니다. 데이터 활용으로 Inverse Propensity Scoring으로 노출 편향을 보정한 성능 지표를 계산했고, 가설이 맞음을 확인했습니다. 결과 분석으로 Popularity Debiasing 기법을 추가했고, 롱테일 아이템 클릭률이 34% 향상됐습니다. 이 경험으로 데이터 수집 방식 자체의 편향을 의심하는 분석 태도를 키웠습니다.