마이크로서비스 아키텍처에서 대규모 트래픽을 처리하는 시스템을 개발할 때 어떤 점에 중점을 두고 작업했어?

실제 서비스에서 일일 수백만 건 API 요청을 처리하는 구조를 운영한 경험이 있습니다. 가장 먼저 중점을 둔 건 서비스 간 장애 전파를 막는 것이었습니다. 하나의 서비스가 느려지면 동기 호출 체인 전체가 타임아웃으로 번지는 문제가 반복됐고, 이를 해결하기 위해 서킷 브레이커 패턴을 도입했습니다. 장애가 감지되면 요청을 즉시 차단하고 폴백 응답을 반환하는 방식으로 전환한 뒤 전체 안정성이 크게 개선됐습니다. 또한 분산 추적 도구를 연결해 서비스 간 지연이 어느 지점에서 발생하는지 가시화했고, 이를 통해 병목 지점을 정확하게 파악할 수 있었습니다. 트래픽이 급증할 때는 오토스케일링 임계값 조정이 핵심이었는데, 임계값을 너무 높게 잡으면 스케일 아웃이 늦어져 장애로 이어진다는 것을 실제로 경험했습니다. 대규모 트래픽 환경에서 스케일링보다 장애 격리 설계가 먼저라는 것을 운영하면서 체득했습니다.