이 질문 뒤에 면접관이 확인하려는 것은 따로 있습니다.
고처리량·저지연 시스템 설계에서 가장 먼저 한 건 병목 지점을 찾는 것이었습니다. 부하 테스트 도구(k6)로 트래픽 패턴을 시뮬레이션하고 응답 시간이 비선형으로 늘어나는 구간을 확인했습니다. DB 쿼리가 병목이었고, 인덱스 추가와 쿼리 튜닝으로 p99 응답 시간을 400ms에서 80ms 수준으로 줄였습니다. 그다음엔 Redis 캐시를 도입해 반복 조회 부하를 분산했습니다. 처리량을 높이는 것과 지연을 줄이는 건 서로 다른 병목을 해결하는 문제라는 걸 이 경험에서 배웠고, 두 지표를 동시에 모니터링하는 방식을 유지합니다.
처리량과 지연은 서로 다른 병목을 해결하는 문제라는 걸 이해한 뒤, 두 지표를 동시에 모니터링하는 방식을 유지하고 있습니다.
고처리량 시스템 설계에서 캐싱 전략을 계층별로 구성하는 것이 DB 병목을 해결하는 핵심이었습니다. 읽기 요청이 많은 데이터를 매번 DB에서 조회하면 처리량이 올라갈수록 응답 시간이 늘어났습니다. Redis를 이용한 애플리케이션 레벨 캐시를 도입해서 자주 조회되는 데이터를 메모리에 유지하고, TTL을 데이터 변경 주기에 맞게 설정했습니다. 캐시 미스가 발생할 때 DB에 부하가 몰리는 캐시 스탬피드 문제는 jitter를 추가한 TTL 설정과 mutex lock 방식으로 방어했습니다. 이 구조로 처리량이 3배 이상 증가했을 때도 응답 시간이 안정적으로 유지됐습니다.
캐시 계층이 처리량 한계를 높입니다. 캐시 전략이 DB 부하 관리의 핵심입니다. 계층별 설계가 고처리량의 답입니다.
고처리량과 저지연을 동시에 달성하기 어려운 이유는 두 요구사항이 서로 다른 방향으로 시스템을 설계하게 만들기 때문입니다. 저지연은 즉각 응답이 필요하고, 고처리량은 많은 요청을 처리해야 합니다. 이 충돌을 해결한 방식은 응답이 즉시 필요한 부분과 그렇지 않은 부분을 분리하는 것입니다. API가 즉각 처리해야 하는 로직만 수행하고, 시간이 걸리는 작업(이메일 발송, 로그 기록, 집계 계산)은 메시지 큐에 넣어 비동기 처리하는 방식입니다.
이렇게 하면 API 응답 시간은 최소화되면서 백그라운드에서 처리량을 확보할 수 있습니다. 큐가 쌓이는 경우를 대비해 워커 수를 동적으로 늘리는 자동 스케일링 설정도 함께 구성했습니다. 비동기 분리가 두 요구사항을 모두 충족합니다. 즉시와 나중을 나누면 둘 다 잡을 수 있습니다. 큐 설계가 고처리량 저지연의 핵심입니다.
답변에서 흔히 빠지는 것들 — 빠져 있으면 꼬리질문이 깊어집니다.
이 질문에 이어 쿠팡 백엔드 면접관이 던질 가능성이 높은 후속 질문.
이 페이지의 질문·답변·꼬리질문은 유사 직군 채용 시장의 공개된 면접 후기·커뮤니티 게시물을 분석해 구성한 학습 자료입니다. 특정 회사가 실제로 이 질문을 출제했다는 것을 보장하지 않으며, 모든 예시는 우문현답이 직접 작성한 창작물입니다. 해당 회사의 공식 입장과는 무관합니다. 회사 측의 정정 요청이 있을 경우 24시간 이내에 응답·수정합니다.