소규모 AI 파이프라인 설계
약 90초
팀 내 AI 기능 파이프라인을 처음 설계한 경험
팀 프로젝트에서 텍스트 분류 기능을 추가하면서 어디에 모델을 올리고 어떻게 서빙할지 처음부터 설계해야 하는 상황이었습니다.
모델 학습, 저장, 서빙을 분리해서 각 단계가 독립적으로 교체 가능하게 구성하였습니다. 처음에는 전부 한 서버에 올려서 모델을 업데이트할 때 서비스도 잠시 내려가는 문제가 있었는데, 모델 서버를 분리하고 나서 서비스 중단 없이 모델을 바꿀 수 있게 되었습니다.
전사 규모는 아니었지만, 어떤 기준으로 컴포넌트를 나눌지 결정하는 것이 설계의 핵심이라는 것을 배웠습니다. 지금 당장 작동하는 것보다 나중에 수정하기 쉬운 구조가 더 중요하다는 것을 그 경험에서 알게 되었습니다. 그 경험이 AI 파이프라인 설계에 대한 감을 키워주었습니다.
이 결의 특징
텍스트 분류 기능을 학습·저장·서빙 세 단계로 분리해 각각 독립 교체 가능하게 만들고, 처음 한 서버에 몰아 넣어 모델 업데이트 때마다 서비스가 멎던 문제를 서버 분리로 해결한 흔적이 있습니다.
이 결이 통하는 자리
지금 작동하는 구조보다 나중에 고치기 쉬운 구조가 중요하다는 결론이 실제 서비스 중단 경험과 함께 있을 때 통합니다. 전사 규모는 아니었다는 한계를 스스로 밝힌 자리에서 면접관의 신뢰가 생기는 결이 보입니다.