RAG 또는 비정형 데이터 저장소를 구축한 경험에 대해 설명해 주세요.

RAG 파이프라인을 프로덕션에 구축한 경험은 없지만, 학교 NLP 수업에서 RAG 기반 Q&A 시스템을 소규모로 실습했습니다. 회사 내규 PDF를 청크로 분할해 벡터 DB(FAISS)에 저장하고, 사용자 질문에 가장 유사한 청크를 검색해 LLM 응답 생성에 전달하는 방식으로 구현했습니다. 가장 어려웠던 점은 청크 크기 설정이었는데, 너무 작으면 맥락이 끊기고 너무 크면 검색 정확도가 떨어지는 트레이드오프를 직접 경험했습니다. 검색 품질을 높이기 위해 하이브리드 검색(키워드+벡터)을 시도해봤는데, 정확한 용어가 포함된 질문에서 성능이 명확히 개선됐습니다.

임베딩 모델 선택도 중요한데, 도메인 특화 텍스트에는 범용 모델보다 파인튜닝된 모델이 검색 품질에 큰 차이를 만든다는 걸 실험으로 확인했습니다.