GCP Vertex AI로 학습~서빙 파이프라인 구성, 비용 알람 실수 후 습관화
클라우드에서 ML 모델을 개발하고 배포한 경험으로는 졸업 프로젝트에서 GCP Vertex AI를 사용한 것이 있습니다. 데이터는 BigQuery에 저장하고, 학습 잡은 Vertex AI Training으로 실행했으며, 배포는 Vertex AI Endpoints로 이었습니다. 클라우드를 쓰면서 가장 편리했던 점은 리소스 확장이 필요할 때 설정 몇 줄로 처리된다는 것이었습니다. 온프레미스 환경에서는 GPU가 부족하면 기다릴 수밖에 없지만, 클라우드는 유연하게 조절됐습니다. 비용 측면에서는 학습 잡을 실수로 너무 오래 돌려서 예상보다 3배 청구된 경험이 있었고, 그 이후로 예산 알람을 설정하는 것을 먼저 하게 됐습니다. 한계는 멀티 클라우드 환경이나 사내 MLOps 플랫폼과 연동한 경험은 없습니다.