RAG 기반 사내 지식 검색 앱 개발
LLM을 활용해 사내 문서 기반 질의응답 애플리케이션을 개발한 경험이 있습니다. RAG(Retrieval-Augmented Generation) 아키텍처로 임베딩 검색 + LLM 답변 생성을 결합한 구조를 설계했습니다. 개발 과정에서 가장 큰 도전은 검색 결과의 품질이 최종 답변 품질을 결정한다는 점이었고, 청킹 전략과 임베딩 모델 선택에 가장 많은 실험을 투자했습니다.
LangChain으로 파이프라인을 구성했고, Weaviate를 벡터 스토어로 활용했습니다. 팀 협업으로 백엔드 팀과 API 인터페이스를 설계하고, 사용자 피드백 수집 구조를 함께 구현했습니다. 도구 측면에서 LangSmith로 체인 실행 추적과 응답 품질 모니터링을 했습니다. 출시 후 사내 문서 검색 시간이 평균 70% 단축됐습니다.