S3+Lambda 데이터 파이프라인 프로젝트 아이디어로 푸는 결
AWS 기반 데이터 관리를 배운 뒤 실제로 구현해보고 싶었던 프로젝트는 자동화된 데이터 수집·정제 파이프라인이었습니다. S3에 원시 데이터를 적재하고, Lambda를 트리거로 정제 로직을 실행하여 가공된 데이터를 분석용 버킷에 자동 이동하는 구조를 만들어보았습니다. 처음에는 Lambda의 타임아웃 제한을 고려하지 않아서 오류가 발생하였고, 작업을 작은 단위로 나누는 방식으로 수정하였습니다. 클라우드에서는 단일 작업을 크게 만드는 것보다 역할을 나눠서 조합하는 것이 더 안정적이라는 것을 배웠습니다. 이 경험이 클라우드 설계의 기본 감각을 키워주었습니다. 작은 기능의 조합이 큰 시스템을 만듭니다. 실패를 통해 제약 조건을 이해하는 것이 클라우드 학습의 핵심입니다.