SLAs를 관리하고 금융 서비스의 지연 시간 및 처리량을 최적화하기 위해 어떤 방법을 사용하나요?

금융 서비스에서 SLA를 관리하면서 지표를 측정하는 것만큼 이상이 생겼을 때 어떻게 대응하는지가 중요하다는 것을 배웠습니다. p99 응답 시간이 SLA 임계값을 넘으면 즉시 알람이 오도록 설정했는데, 알람이 올 때마다 어떤 조치를 취할지 런북을 미리 작성해두는 것이 온콜 대응 시간을 줄이는 핵심이었습니다. 캐시 관련 장애도 운영 경험에서 배운 부분인데, TTL이 만료된 순간 트래픽이 전부 DB로 쏠리는 캐시 스탬피드(Cache Stampede) 문제가 생길 수 있다는 것을 알게 됐습니다.

Write-through 방식과 TTL에 무작위 시간을 더해 동시 만료를 분산하는 방법으로 대응했습니다. Auto Scaling도 트래픽 스파이크 전에 미리 기준을 잡아두지 않으면 실제 피크 때는 이미 늦는다는 것을 이해했습니다. CPU나 응답 시간 지표를 기반으로 스케일 아웃 트리거를 미리 설정해두는 방식이 필요합니다.

SLA 운영은 정상 상태 최적화보다 이상 상황 대응 절차를 미리 갖추는 것이 더 중요하다는 것을 이 경험에서 배웠습니다.