직접 경험 기반
캡스톤 프로젝트에서 랜딩 페이지의 CTA 버튼 위치를 A/B 테스트로 비교했습니다. 두 버전을 무작위로 노출하고 클릭률과 전환율을 각각 측정했는데, 위치를 바꿨을 때 전환율이 약 18% 올라갔습니다. 중요했던 건 표본 크기가 충분해질 때까지 결과를 섣불리 해석하지 않는 것이었습니다. 초반에 한쪽이 앞서 보였는데, 기다리자 결과가 역전됐습니다.
통계적 유의성을 확보한 뒤에야 배포 결정을 내렸고, 그 기준 없이 움직이면 오히려 판단이 흐려진다는 걸 배웠습니다. 통계 기초 없이 결과만 보면 오판하기 쉽다는 걸 이 경험으로 확인했고, A/B 테스트 설계 단계부터 가설을 명확히 하는 습관이 생겼습니다. 데이터로 결정하는 과정의 엄밀함을 실무에서도 지키고 싶습니다.