분산 시스템 개발에서 마주친 주요 과제와 확장성·멱등성 해결 방향을 서술한 결
졸업 프로젝트에서 실시간 이벤트 스트리밍 처리 시스템을 팀 3인으로 설계했습니다. 단일 노드에서 잘 돌아가던 서버가 부하 테스트에서 초당 1,000건을 넘기자 병목이 생겼고, 원인을 찾으니 단일 큐에 모든 이벤트가 몰리는 구조였습니다. 파티셔닝 키 기준으로 큐를 분리하고 컨슈머를 수평 확장했더니 처리량이 4배 올랐습니다. 이 과정에서 파티션 리밸런싱 중 중복 처리 문제가 생겼고, 멱등성 키를 이벤트에 붙여 컨슈머가 중복 처리를 건너뛰도록 설계해 해결했습니다. 분산 시스템에서 확장성과 정확히-한-번 처리 보장 사이의 트레이드오프를 직접 다뤘다는 점이 이 프로젝트의 핵심 배움이었습니다.