예시 답변 1
약 90초
LLM 개발에서 프롬프트와 데이터 품질이 성능에 미치는 영향을 사례로 정리한 결
저는 LLM 기반 자연어 처리 모델 개발에서 가장 중요한 요소를 프롬프트와 데이터 품질이라고 봅니다. 어떤 파인튜닝 전략을 선택하든, 학습 데이터의 레이블 일관성이 낮거나 프롬프트 포맷이 불안정하면 모델 출력이 흔들렸습니다. 사이드 프로젝트에서 GPT API 기반 요약 서비스를 만들 때 few-shot 예시 3개를 추가한 것만으로 출력 형식 준수율이 40%에서 91%로 뛰었습니다. 파인튜닝 비용을 쓰기 전에 프롬프트 엔지니어링으로 먼저 한계를 탐색하는 것이 효율적이라는 점도 이때 배웠습니다. 단, 모델 규모가 작아질수록 프롬프트 민감도가 높아지므로, 경량 모델에서는 입출력 예시를 더 촘촘히 설계하는 것이 중요하다고 봅니다.
이 결의 특징
few-shot 예시 추가만으로 출력 형식 준수율을 40%에서 91%로 끌어올린 흔적이 있습니다.
이 결이 통하는 자리
파인튜닝 비용을 쓰기 전에 프롬프트 엔지니어링으로 한계를 먼저 탐색하는 것이 효율적이라는 관점이 답에 담겨 있을 때 면접관의 신뢰가 쌓이는 자리를 자주 봅니다.