AI 인프라 오케스트레이션의 장기 비전을 정의하고 실행하기 위해 어떤 접근 방식을 고려하나요?

단일 모델 하나를 잘 서빙하는 것과 수십 개 모델의 라이프사이클을 동시에 관리하는 것은 완전히 다른 문제라고 생각합니다. 제가 생각하는 장기 비전의 출발점은 모델을 개별 서비스가 아니라 플랫폼의 시민으로 다루는 구조입니다. MLflow나 Kubeflow 같은 도구를 단순히 실험 추적용으로 쓰는 게 아니라, 배포·롤백·A/B 실험이 모두 동일한 인터페이스에서 일어나도록 설계하는 것이 핵심이라고 봅니다. 인턴 때 모델 재배포가 필요할 때마다 팀원이 수작업으로 컨테이너를 교체하는 걸 보면서, 배포 자동화의 병목이 팀 전체 속도를 낮추는 실제 비용을 체감했습니다. 그래서 새 모델이 학습 완료 상태가 되면 파이프라인이 스스로 검증·스테이징·카나리 배포까지 이어지는 구조를 먼저 그리는 방향으로 접근합니다. 팀과의 정렬은 어느 레이어를 공통화하고 어느 레이어를 팀 자율로 남길지를 처음부터 명시해두는 방식으로 풀어갑니다.