경험 중심 — 실제 프로젝트에서 MAB를 도입해 클릭률을 높인 과정
졸업 프로젝트에서 영화 추천 기능을 만들 때 처음으로 MAB를 사용해 보았습니다. 처음에는 단순 A/B 테스트로 시작했지만, 트래픽을 반반 나눠야 해서 성능이 나쁜 알고리즘에도 50%를 할당해야 하는 것이 아깝게 느껴졌습니다.
그래서 epsilon-greedy 방식으로 변경하였고, 탐색과 활용 비율 조정이 생각보다 까다로웠습니다. epsilon을 0.1로 고정하였더니 초반 학습이 너무 느렸고, 0.3으로 올리니 나중에 성능이 좋아진 알고리즘을 충분히 활용하지 못했습니다.
결국 epsilon을 점점 줄이는 decay 방식으로 변경하였고, 2주 운영 후 클릭률이 기존 랜덤 추천 대비 23% 상승하였습니다. 다만 사용자 수가 적을 때는 보상 신호가 불안정하여 콜드 스타트 문제가 남아 있었고, 이 문제는 아직 완전히 해결하지 못한 숙제로 남아 있습니다.