데이터·근거 중심으로 푸는 결
AWS 기반 AI 서비스를 구축할 때 가장 주의해야 할 점은 비용 관리입니다. 저는 SageMaker로 추천 모델을 학습하던 중 월 비용이 예상의 3배가 되는 경험을 했습니다. 원인은 (1) 실시간 엔드포인트를 과도하게 프로비저닝했고, (2) 로그를 S3에 저장했는데 만료 정책이 없어서 용량이 계속 증가했습니다. 해결책: (1) 오토스케일링(최소 1개 인스턴스, 로드에 따라 최대 5개)으로 설정, (2) S3 수명 주기 정책으로 90일 후 Glacier 아카이브 설정, (3) AWS 비용 탐지기(Cost Explorer) 월 1회 점검. 결과적으로 비용을 35% 절감했고 성능은 유지했습니다.