면접관이 이 한 문장으로 확인하려는 것들. 각 갈래를 알면 답의 뼈대가 잡혀요.
고객 문의 자동 분류 시스템을 설계하며, 실시간성이 중요한 요구사항을 반영해 경량 모델을 온프레미스에 배치하고 복잡한 케이스만 외부 LLM API로 넘기는 하이브리드 구조를 설계했습니다. 모든 요청을 대형 모델로 처리하면 응답 지연과 비용이 커진다고 판단해 이런 구조를 택했고, 평균 응답 시간을 1.2초로 줄이면서 API 비용도 40퍼센트 절감했습니다.
제조 공정에서 불량품 검출 속도가 느려 생산성이 떨어지는 문제를 해결하기 위해 이미지 분류 모델을 도입했습니다. 기존 육안 검사 대비 검출 시간을 5초에서 0.8초로 단축했지만, 초기에는 오탐률이 높아 실제 작업자 피드백을 반영해 학습 데이터를 재구성하는 과정을 거쳤습니다. 기술 적용이 끝이 아니라 현장 피드백을 반영하는 과정이 핵심이었습니다.
추천 시스템 프로젝트에서 대형 언어모델 대신 경량 임베딩 모델을 선택했는데, 실시간 추천에는 응답 속도가 정확도보다 우선순위가 높다고 판단했기 때문입니다. 실험 결과 정확도는 3퍼센트 정도 낮아졌지만 응답 속도는 세 배 이상 빨라져 전체 사용자 경험 측면에서는 더 나은 선택이었다고 판단합니다.
같은 실수가 반복돼요. 이것만 피해도 절반은 갑니다.
진짜 면접은 두 번째 질문부터예요. 이 답 뒤에 따라올 법한 것들.