Large Language Model을 Fine-tuning 한 경험이 있다면, 어떤 목적과 결과를 도출했는지 말씀해 주세요.

캡스톤 프로젝트에서 법률 문서 요약 모델을 파인튜닝하는 작업을 팀원 2명과 함께 했습니다. 파인튜닝을 마치고 자동 평가 지표를 보니 성능이 꽤 올라 보였습니다. 그런데 실제 요약문을 직접 읽어보니 법률 용어가 일상어로 바뀌거나, 주어가 빠지는 경우가 있었습니다. 지표는 좋은데 실제 출력이 이상한 상황이었습니다. 저는 지도 교수님과 법학 전공 학우 1명에게 출력 샘플 20건을 평가해달라고 요청했습니다. 평가 결과 20건 중 6건에서 의미가 달라지는 오류가 나왔습니다. 이 문제가 학습 데이터에서 비롯된 건지, 모델 자체 한계인지를 분리하는 데 시간이 더 걸렸습니다. 결국 입력 데이터의 법률 용어 보존을 지시하는 방식을 추가해 오류 비율을 절반 가까이 줄였습니다. 수치 지표만 보고 완성됐다고 판단하지 말아야 한다는 걸, 이 경험이 가르쳐줬습니다.