시스템 설계를 할 때 스케일러블한 시스템을 구축하기 위한 접근 방식은 무엇인가요?

사이드 프로젝트에서 마이크로서비스 구조로 전환하면서 직접 스케일링 문제를 마주쳤습니다. API 서버 인스턴스를 두 개로 늘렸는데 로그인 세션이 유지되지 않는 문제가 생겼습니다. 서버마다 메모리에 세션을 저장하고 있었고, 로드 밸런서가 다른 인스턴스로 요청을 보내면 세션을 찾지 못했습니다.

세션 저장소를 Redis로 외부화하는 것으로 해결했습니다. 코드 변경은 생각보다 단순했지만, 이 과정에서 Stateless 서버가 무엇을 의미하는지를 개념이 아닌 실제 현상으로 처음 이해했습니다. 서버가 상태를 갖는 순간 인스턴스를 늘려도 서로 다른 상태를 공유하지 못하는 문제가 생긴다는 것입니다.

이 경험 이후로 새 서비스를 설계할 때 '이 컴포넌트가 상태를 갖는가'를 가장 먼저 확인하는 습관이 생겼습니다. 스케일링 문제는 대부분 상태가 어디에 있는지를 명확히 하지 않은 데서 시작하는 자리라는 것이 이 프로젝트에서 남은 결입니다.