웨어하우스·레이크 직접 써보며 차이 체감
데이터 웨어하우스와 데이터 레이크의 핵심 차이는 데이터를 어떤 상태로 저장하느냐에 있다고 봅니다. 웨어하우스는 스키마를 먼저 정한 뒤 정제된 데이터를 적재하는 방식이고, 레이크는 원시 데이터를 그대로 쌓아두는 방식입니다. 실습 프로젝트에서 BigQuery(웨어하우스)와 S3(레이크)를 함께 써봤는데, 빠른 집계 쿼리는 BigQuery가 훨씬 빨랐고, 다양한 포맷의 파일을 보관할 때는 S3가 유연했습니다.
레이크에 데이터가 쌓일수록 필요한 데이터를 찾는 비용이 커지는 문제를 직접 경험하기도 했습니다. 데이터 카탈로그가 없으면 '어느 폴더에 뭐가 있는지 아무도 모르는' 상황이 됩니다. 한계는 레이크 → 웨어하우스로 가는 ETL 파이프라인 설계는 아직 깊이 해보지 못했다는 점입니다.