합성 데이터 생성으로 부족한 도메인 데이터 보강
Post-training 데이터 수집에서 가장 먼저 고려하는 것은 실제 데이터와 합성 데이터의 조합 전략입니다. 특정 도메인은 고품질 레이블 데이터를 충분히 확보하기 어렵고, 합성 데이터만 쓰면 모델이 합성 패턴을 과적합할 수 있습니다. 이를 해결하기 위해 저는 강한 모델로 초안 생성 → 사람 검토 → 오류 수정 형태의 Human-in-the-loop 파이프라인을 설계합니다. 생성 기술로는 Self-Instruct, Back-translation, Persona-based prompting을 상황에 맞게 조합했습니다. 합성 데이터는 다양성 지표(diversity score)로 측정해 유사 케이스가 반복되지 않도록 필터링했습니다.
평가 기준은 모델이 실제 데이터와 합성 데이터를 구분하지 못하는 수준을 목표로 잡았습니다. 이 접근으로 도메인 특화 성능을 60% 향상시키면서 수집 비용을 크게 줄였습니다.