LLM 학습·평가 데이터셋 구축 프로젝트에서 맡았던 역할과 주요 성과에 대해 이야기해 주세요.

졸업 프로젝트에서 LLM을 활용해 사내 문서 기반 QA 시스템을 구현한 경험이 있습니다. OpenAI API와 오픈소스 LLaMA 계열 모델을 비교 실험했는데, 전용 도메인 용어가 많은 사내 문서에서 RAG 없이 일반 LLM을 쓰면 답변이 부정확하거나 없는 내용을 생성하는 문제가 있었습니다. RAG 파이프라인을 구성하면서 청크 크기와 임베딩 모델 선택이 검색 정밀도에 가장 큰 영향을 준다는 것을 반복 실험으로 확인했습니다. 특히 하이브리드 검색(BM25 + 벡터 검색 조합)이 특수 용어가 많은 문서에서 벡터 검색 단독보다 리콜이 높았습니다. SLM은 파라미터 수가 적어 엣지 배포에 유리하지만 복잡한 추론에서 품질 한계가 있었고, VLM은 이미지가 포함된 문서 처리에서 유용할 수 있다는 방향으로 추가 실험을 계획하고 있습니다. 앞으로도 RAG 파이프라인을 단계별로 독립 평가하는 방식으로 LLM 기반 시스템을 구축하겠습니다.

청크 크기와 임베딩 모델 선택이 검색 품질을 결정하는 가장 중요한 파라미터입니다. 하이브리드 검색이 특수 도메인 문서에서 벡터 검색 단독보다 리콜이 높다는 것을 실험으로 확인했고, 이 방식을 기본으로 유지하겠습니다.