Coupang Ads의 백엔드 서비스를 개발할 때, 고가용성 서비스를 설계하기 위해 고려해야 할 요소는 무엇인가요?

광고처럼 실시간 트래픽이 치솟는 서비스에서는 장애를 탐지하는 속도가 가용성을 결정한다고 생각합니다. 복구를 빠르게 하는 것보다 이상 징후를 먼저 잡아내는 구조를 만드는 것이 우선이라는 의미입니다. 그래서 가장 먼저 챙기는 건 세 축의 관찰 가능성 — 메트릭, 로그, 트레이싱의 연결입니다. 지연이 급증했을 때 어느 서비스 어느 호출 경로에서 발생했는지 5분 안에 좁힐 수 있어야 합니다. 인턴 때 분산 서비스 환경에서 요청 ID를 로그 전체에 전파하는 작업을 맡았는데, 그 이후 장애 원인 파악 시간이 눈에 띄게 줄었습니다. 두 번째는 SLO 기반 알림 설계입니다. 모든 에러를 알림으로 받으면 실제 사용자 영향이 없는 노이즈에 피로해집니다.

에러 예산 소진 속도를 기준으로 알림 임계값을 설정하면 정말 중요한 순간에만 대응할 수 있습니다. 세 번째는 그레이스풀 디그레이데이션입니다. 추천이나 개인화 기능이 느려져도 핵심 노출 자체는 멈추지 않도록 우선순위 계층을 명확히 나눠두는 방식이 실제로 효과적이었습니다.