가설-실험 반복으로 지표 개선
학부 연구실에서 추천 알고리즘 실험을 여러 차례 반복한 경험이 있습니다. 처음 세운 가설은 클릭 수 기반 가중치가 효과적이라는 것이었는데, 실험 결과 체류 시간 기반이 더 좋은 성과를 냈습니다. 이후 체류 시간 + 스크롤 깊이를 함께 쓰는 복합 지표를 만들었고, 기존 대비 클릭률이 약 12% 향상됐습니다. 가설이 틀려도 데이터가 방향을 가르쳐 준다는 걸 체감했습니다. 실험에서 얻은 예상 밖의 결과가 오히려 더 좋은 개선으로 이어지는 경우가 많았습니다. 가설 설계 단계에서 측정 방법을 먼저 정하지 않으면 실험 결과가 애매해진다는 것도 배웠습니다. 이후에는 실험을 시작하기 전에 성공 기준과 지표를 먼저 문서화하는 습관이 생겼습니다. 팀원들과 기준을 공유하면 결과 해석 시 의견 충돌도 줄어든다는 걸 직접 경험했습니다.