엣지 디바이스에서 AI 모델을 경량화할 때 고려해야 할 요소는 무엇인가요?

졸업 프로젝트에서 소규모 `ML` 파이프라인 자동화를 구현했을 때, 대규모는 아니지만 오케스트레이션 설계에서 어떤 부분이 어려운지 처음 느꼈습니다. 가장 어려웠던 것은 학습 작업이 실패했을 때 어느 단계부터 재시작해야 하는지를 관리하는 것이었습니다. 처음에는 전체를 다시 돌리는 방식으로 했는데, 전처리 시간이 길어서 비효율적이었습니다.

Checkpoint 저장 단계를 추가하고 단계별로 상태를 기록한 뒤, 실패 지점부터 재개할 수 있는 구조로 바꿨습니다. 대규모 환경에서는 분산 학습의 노드 동기화 문제나 리소스 스케줄링 충돌이 훨씬 복잡하겠지만, 핵심은 실패 복원력과 자원 효율을 함께 설계하는 것이라고 생각합니다. 그 경험을 통해 파이프라인 설계에서는 정상 흐름보다 실패 시나리오를 먼저 생각해야 한다는 것을 배웠습니다.