트래픽 급증 시 수평 확장과 캐싱 전략을 중심으로 접근 방법 설명
추천 시스템의 트래픽과 데이터 규모가 빠르게 증가할 때 저는 수평 확장과 캐싱 전략을 핵심으로 생각합니다. 단일 서버로는 한계가 있기 때문에 서버를 추가해서 부하를 분산하는 구조가 기본이 되어야 한다고 배웠습니다. 추천 결과가 실시간으로 바뀌지 않는 경우라면 미리 계산된 결과를 캐시에 올려두고 빠르게 응답하는 방식이 효율적이라고 알고 있습니다. 수업에서 캐시 히트율을 높이면 실제 연산 부하가 크게 줄어드는 사례를 분석했는데, 추천 시스템처럼 같은 사용자에게 비슷한 결과가 반복되는 경우에 캐싱이 효과적이라는 걸 이해했습니다. 개인 프로젝트에서 캐시 만료 시간을 너무 길게 잡았더니 오래된 결과가 계속 나오는 문제가 생겼는데, 신선도와 성능 사이 균형을 잡는 것도 설계의 일부라는 걸 배웠습니다. 실무에서 어떤 기준으로 이 균형을 잡는지 배우고 싶습니다.