대규모 언어모델(LLM)의 성능 향상을 위한 연구 경험에 대해 구체적으로 설명해 줄 수 있어?

학부 연구실 세미나에서 팀과 함께 소형 언어모델의 few-shot 성능을 개선하는 실험을 진행했습니다. 대규모 모델 대신 Llama-3-8B 같은 소형 모델을 파인튜닝해 특정 태스크에 맞게 최적화하는 방향이었습니다. 성능 향상에 쓴 접근은 두 가지였습니다. 첫 번째는 도메인 특화 데이터로 instruction tuning을 적용한 것이고, 두 번째는 프롬프트 포맷을 체계화해 few-shot 예시의 품질을 높인 것입니다.

LoRA 방식으로 파인튜닝했고, 전체 파라미터를 업데이트하는 것보다 학습 비용이 크게 줄면서도 성능은 비슷한 수준을 확인했습니다. 성능 측정은 ROUGE-L과 태스크 특화 정확도를 기준으로 했고, 베이스라인 대비 약 8%p 향상을 확인했습니다. 팀에서 저는 학습 데이터 정제와 평가 스크립트 작성을 맡았습니다.

실험 결과를 재현 가능하게 기록하는 것이 생각보다 많은 시간을 잡는다는 걸 그때 배웠고, 문서화 습관을 들이는 계기가 됐습니다.