파이프라인 단계별 검증 체계를 구축한 경험을 제시한다
학부 캡스톤에서 크롤링한 상품 데이터를 다루며 입력 단계에 스키마 검증을 추가했습니다. 필수 필드 누락이나 타입 불일치가 있으면 적재 전에 걸러지도록 파이썬 검증 함수를 작성했습니다.
검증을 추가하기 전에는 약 8% 정도의 행에서 가격 필드가 비어 있는 문제가 있었는데, 검증 단계를 거친 뒤에는 결측치가 적재 이전에 격리되어 분석 단계에서 별도 처리를 하지 않아도 됐습니다.
이 경험으로 품질은 마지막에 확인하는 것이 아니라 들어오는 시점에 걸러야 한다는 것을 배웠습니다.