오토스케일링 실수로 예상보다 5배 비용, CloudWatch 세팅 습관화
클라우드 AI 인프라를 운영하면서 겪은 가장 큰 어려움은 비용 예측이었습니다. 인턴십에서 AWS EC2 기반 모델 추론 서버를 유지보수했는데, 자동 스케일링 설정 실수로 인스턴스가 줄어들지 않아 예상보다 5배 비용이 나온 적 있었습니다. 그 이후로 CloudWatch 알람과 인스턴스 사용률 대시보드를 먼저 세팅하는 습관이 생겼습니다. 제가 직접 담당한 범위는 배포 스크립트 작성과 인스턴스 타입 변경이었고, 인프라 설계 전체는 시니어 엔지니어 분이 담당했습니다. 그분의 작업을 보조하면서 VPC 구성이나 IAM 역할 설정 같은 부분을 옆에서 배웠습니다. 한계는 AI 전용 인프라(GPU 클러스터 조율, 분산 학습 설정)는 아직 경험하지 못했습니다.