Databricks 파이프라인 설계 경험·구조 중심으로 푸는 결
Databricks 환경에서 데이터 파이프라인을 직접 설계한 경험은 인턴 기간 중 있었습니다.
업무는 외부 API에서 수집된 원시 데이터를 정제해 분석 가능한 형태로 변환하는 파이프라인 구축이었습니다. Bronze → Silver → Gold 구조를 기본으로 잡았습니다. Bronze 레이어에는 원시 데이터를 그대로 적재하고, Silver에서 중복 제거·결측값 처리·타입 변환을 적용했습니다. Gold 레이어에서 비즈니스 로직에 맞춰 집계된 최종 테이블을 만들었습니다.
`Delta Lake` 포맷으로 저장해서 `ACID` 보장과 타임트래블 기능을 활용했고, 스케줄은 Databricks Jobs로 매일 자동 실행되도록 설정했습니다. 처음엔 Spark 쿼리 성능 때문에 실행 시간이 예상보다 길었는데, 파티셔닝 키를 조정하고 `broadcast join`으로 바꾸면서 처리 속도가 절반으로 줄었습니다. 이 경험에서 파이프라인 구조 못지않게 최적화 단계가 중요하다는 것을 배웠습니다.