예시 답변 1
약 65초
경험 기반 구체화
멀티모달 언어 모델이나 대규모 모델 학습을 직접 수행한 경험은 없지만, 학교 딥러닝 수업에서 CLIP 모델의 텍스트-이미지 정렬 구조를 분석하는 과제를 했습니다. 멀티모달 모델의 핵심은 서로 다른 모달리티를 공통 임베딩 공간에 정렬하는 것인데, 이 정렬이 잘 될수록 텍스트로 이미지를 검색하거나 이미지로 텍스트를 생성하는 것이 가능해집니다. 대규모 모델 학습에서 가장 큰 도전은 메모리와 연산 비용인데, 파라미터가 수십억 개가 넘으면 단일 GPU로는 학습이 불가능해서 분산 학습(Distributed Training) 기법이 필요합니다. 대규모 모델은 학습 자체보다 데이터 품질과 규모가 성능을 더 크게 결정하는 경우가 많아서, 데이터 큐레이션 파이프라인이 중요하다는 것도 배웠습니다. 향후 소규모 파인튜닝 프로젝트부터 시작해서 대규모 모델 학습 경험을 쌓고 싶습니다.
이 결의 특징
멀티모달 언어 모델 직접 학습 경험은 없지만 CLIP 모델의 텍스트-이미지 정렬 구조를 분석하면서 서로 다른 모달리티를 공통 임베딩 공간에 정렬하는 것이 핵심이라는 것과, 대규모 모델은 학습 자체보다 데이터 품질과 규모가 성능을 더 크게 결정하는 경우가 많다는 것을 배운 흔적이 있습니다.
이 결이 통하는 자리
직접 학습 경험 없음을 밝히면서 모달리티 정렬 원리와 데이터 품질 우선 인식을 설명하는 자리가 설명될 때 통합니다. 소규모 파인튜닝부터 시작하고 싶다는 다음 방향이 살아 있는 곳에서 면접관의 신뢰가 생기는 결이 자주 보입니다.