고가용성 시스템을 설계할 때 Circuit Breaker, Bulkhead, Rate Limiting 같은 패턴을 언제 어떻게 적용하시겠습니까? 실제 경험이 있다면 사례로 설명해주세요.

고가용성 시스템 설계에서 Circuit Breaker·Bulkhead·Retry는 서로 다른 장애 시나리오를 방어하는 보완적 패턴입니다. Circuit Breaker는 외부 서비스가 지속 실패할 때 요청을 차단해서 자원 소진과 연쇄 장애를 방지합니다.

Bulkhead는 서비스 구성 요소를 격리해서 한 부분의 장애가 전체로 번지는 걸 막는 격벽 역할입니다. Retry는 일시적 오류를 자동으로 재시도하되, 지수 백오프(exponential backoff)와 jitter를 적용해서 재시도 폭풍을 방지합니다. 세 패턴을 함께 설계할 때는 각 패턴이 서로 충돌하지 않도록 순서와 임계값을 맞추는 것이 중요합니다.

고가용성은 장애를 막는 것이 아니라 장애가 생겨도 전체 서비스가 유지되는 구조를 만드는 것입니다. 앞으로도 Circuit Breaker·Bulkhead·Retry를 장애 시나리오별로 구분해서 조합하고 충돌하지 않도록 임계값을 조율하는 방식을 유지하겠습니다.

고가용성은 장애를 막는 것이 아니라 장애가 생겨도 전체 서비스가 유지되는 구조를 만드는 것입니다. 지수 백오프와 jitter 적용이 재시도 폭풍을 방지하는 핵심 설계 포인트입니다.