동시 사용자 처리량 아키텍처 부하 테스트 결
동시 사용자와 초당 처리량을 고려한 아키텍처를 처음 설계한 것은 사이드 프로젝트에서 이벤트 기간 트래픽 급증을 경험하면서였습니다. 평소와 다르게 동시 접속자가 갑자기 늘자 DB 커넥션 풀이 고갈되면서 오류가 났습니다. 비동기 처리와 연결 풀 설정을 조정해 단기적으로 해결했고, 이후 아키텍처를 재설계하는 계기가 됐습니다.
k6로 시나리오 기반 부하 테스트를 구성해 예상 최대 동시 접속자를 시뮬레이션했고, 어느 지점에서 응답 시간이 급격히 늘어나는지를 측정했습니다. 캐싱 레이어 추가와 읽기 전용 요청을 replica로 분산하는 방식을 적용하자, 같은 트래픽에서 DB 부하가 눈에 띄게 줄었습니다. 아키텍처 설계는 예상 트래픽을 먼저 수치로 정의하고 병목 지점을 테스트로 찾는 것이 결임을 배웠습니다.