경험 기반 솔직한 접근
대규모 트래픽 처리 경험은 학교 프로젝트에서 이벤트성 트래픽 급증 시나리오를 시뮬레이션하며 부하 분산을 설계한 것이 있습니다. 단일 서버로는 동시 요청이 몰릴 때 응답 시간이 급격히 늘어나는 것을 확인했습니다. 로드밸런서를 앞에 두고 여러 인스턴스로 요청을 분산하는 구조를 적용했습니다. 트래픽 제어를 위해 Rate Limiting으로 단위 시간당 요청 수를 제한하고, 비동기 처리가 가능한 작업은 메시지 큐로 분리했습니다. 캐싱 레이어를 추가해 동일한 요청이 반복될 때 DB 부하를 줄이는 효과도 확인했습니다.
로드 테스트 도구로 시나리오를 반복 실행하며 병목을 측정했습니다. 트래픽 제어는 평상시 설계가 급증 시 성능을 결정한다는 것을 이 경험에서 배웠습니다.