ETL 파이프라인 설계 과정에서 발생한 데이터 정합성 문제를 해결한 경험 중심으로 푸는 결
인턴 때 레거시 시스템에서 신규 DB로 데이터를 이전하는 ETL 작업의 일부를 맡았습니다. 직접 Informatica를 쓰진 못했지만, 유사한 ETL 구조를 수업 과제로 설계한 경험이 있습니다. 소스와 타겟 테이블 간의 컬럼 매핑을 정리하는 과정에서 양쪽의 날짜 포맷이 달라 변환 중 데이터가 깨지는 문제가 생겼습니다. 처음엔 매핑 문서를 간단히 작성했는데 실제 데이터를 넣어보니 예외 케이스가 많이 나왔습니다. 이후 샘플 데이터 100건을 먼저 통과시켜 결과를 검토하는 단계를 추가했습니다. 이 단계에서 발견한 문제가 전체 이전 이후에 발견했을 경우보다 수정 비용이 훨씬 낮았습니다. ETL 설계에서 소규모 검증 단계를 앞에 두는 것이 얼마나 중요한지 이 경험으로 배웠습니다.