배치 전수 인덱싱과 실시간 변경 감지 이벤트 처리로 인덱스 최신성 유지 결
데이터 인덱싱 파이프라인에서 배치와 실시간의 차이는 처리 단위와 지연 허용 범위에 있습니다. 배치 인덱싱은 전체 데이터를 정기적으로 다시 쌓아 인덱스 정합성을 보장하지만, 새 데이터가 반영되기까지 지연이 있습니다.
실시간 인덱싱은 변경 이벤트가 발생하는 즉시 인덱스를 업데이트합니다. CDC(Change Data Capture) 방식으로 DB 변경을 감지해 검색 엔진에 바로 반영했는데, 검색 최신성이 높아졌지만 이벤트 순서 보장이 추가 과제가 됐습니다.
실제 운영에서는 두 방식을 함께 사용했습니다. 실시간으로 변경을 반영하되, 누락이나 불일치 가능성에 대비해 야간 배치로 전수 재인덱싱하는 구조를 갖췄습니다. 보완 배치가 있으면 실시간 처리 오류의 영향 범위가 제한됩니다.