Instruction-following 데이터 설계 경험 중심
Instruction-following 성능 향상을 위한 데이터 설계에서 핵심은 지시 다양성과 응답 품질의 균형입니다. 연구 프로젝트에서 다양한 길이, 스타일, 도메인의 지시문을 생성하고 각각에 대한 고품질 응답 쌍을 구성하는 작업을 했습니다. 단순한 QA 쌍보다는 multi-turn 대화나 복잡한 제약이 포함된 지시문이 실제 사용 시나리오에 더 가깝다는 것을 확인했습니다. 데이터 품질 검증은 자동 필터링(길이, 중복, 언어 감지) + 샘플 수작업 검토의 두 단계로 진행했습니다. 가장 어려운 부분은 모델이 지시를 이해했는지와 실제로 따랐는지를 구분하는 평가 기준을 설계하는 것이었습니다. 앞으로도 데이터 다양성과 품질 검증 프로세스를 함께 설계하는 방식을 유지하겠습니다. 앞으로도 지시 다양성과 응답 품질의 균형을 유지하면서 데이터 설계를 하는 방식을 이어가겠습니다.
평가 기준을 데이터 설계와 동시에 정의해야 품질이 방향을 갖습니다. multi-turn 시나리오와 복잡한 제약 조건이 실사용 성능을 높이는 핵심 데이터 설계 요소입니다.