예시 답변 1
약 97초
파인튜닝 실험에서 겪은 시행착오와 배운 점을 구체적으로 푸는 결
캡스톤 프로젝트에서 사전학습 모델을 우리 도메인 데이터에 맞게 파인튜닝해본 경험이 있습니다. 처음에는 BERT 기반 모델을 그대로 가져와 전체 레이어를 다 훈련시켰는데, 학습 데이터가 부족해 과적합이 심하게 나왔습니다. 상위 2개 레이어만 열고 나머지는 동결시키는 방식으로 바꾸자 검증 손실이 안정됐습니다. 훈련 중에는 학습률 스케줄러를 워밍업 구간과 함께 설정하는 것이 수렴 속도에 차이가 있다는 걸 직접 비교해봤습니다. 최종적으로 F1이 베이스라인 대비 11포인트 올랐고, 팀에서 그 결과를 최종 발표에 써줬습니다. 아직 대규모 GPU 환경에서 훈련한 경험은 없지만, 레이어 동결·학습률 설정·데이터 규모에 따른 전략 차이를 실험으로 직접 확인했습니다. 그 과정이 이론보다 훨씬 빠르게 이해를 쌓아줬습니다.
이 결의 특징
초기 상황 분석에서 구체적 개선안 실행까지의 전환점이 드러납니다.
이 결이 통하는 자리
수치 기반 성과, 기술 선택의 근거이 명확할 때 신뢰가 쌓이는 결이 보입니다.