인프라 구성 결 → 운영 도전 결 → 해결 결 → 성과 결
데이터 인프라 운영 경험은 개인 사이드 프로젝트에서 Airflow + PostgreSQL + S3 구조로 ETL 파이프라인을 직접 구성·운영한 것에서 왔습니다. 인프라 구성 자리에서는 수집→변환→적재 단계를 Airflow DAG로 나누고, 원천 데이터는 S3에, 분석용 데이터는 PostgreSQL에 적재하는 구조를 만들었습니다. 운영 도전 자리에서는 DAG 실행이 예상보다 오래 걸리거나 실패했을 때 알림 없이 지나가는 경우가 반복됐습니다. 해결 자리에서는 Airflow의 on_failure_callback에 슬랙 알림을 연결하고, 태스크 타임아웃도 명시적으로 설정했습니다. 이후로는 이상을 즉시 확인할 수 있어졌습니다. 성과 자리에서는 파이프라인 실패율이 낮아졌고, 실패했을 때도 어느 단계에서 실패했는지를 빠르게 파악할 수 있게 됐습니다. 데이터 인프라는 구성보다 모니터링과 복구 흐름이 더 중요하다는 걸 운영을 통해 배웠습니다.