가설 설정·지표 정의·실험 설계 중심
데이터 기반 실험을 설계할 때 저는 가설을 하나로 좁히는 것부터 시작합니다. 인턴 때 알림 클릭률 개선 실험을 준비하면서 넓은 가설을 오전 9시 발송이 오후 6시 발송보다 클릭률이 높을 것이라는 구체적 형태로 좁혔습니다. 지표는 기존 대시보드 수치를 그대로 쓰지 않고, 실험 목적에 맞게 7일 누적 클릭률로 새로 정의했습니다. 실험 설계에서는 대조군을 무작위 배정하고 기간을 2주로 고정했는데, 짧은 기간이라 결과의 통계적 유의성에 한계가 있다는 점을 팀에 먼저 알렸습니다. 결과가 통계적으로 유의하게 나왔더라도 실제 구매 전환에 영향이 없으면 의미가 약하다는 것도 배웠습니다. 아직 대규모 A/B 실험을 혼자 설계한 경험은 없지만, 가설 명확화와 지표 재정의가 실험 품질을 높인다는 점은 분명히 경험했습니다.