LangChain 오케스트레이션·벡터 DB 검색·도구 연결로 AI 에이전트 설계 결
에이전트 개발에서 주로 활용한 플랫폼은 LangChain이었습니다. LLM 호출, 도구 연결, 메모리 관리를 추상화된 컴포넌트로 조합할 수 있어 복잡한 에이전트 흐름을 빠르게 프로토타이핑하는 데 유용했습니다.
벡터 DB와 연결해 RAG(검색 증강 생성) 구조를 구현했습니다. 사용자 질문과 관련된 문서를 먼저 검색하고 그 내용을 컨텍스트로 제공하면, LLM이 학습 데이터에만 의존하지 않고 최신 정보를 활용해 답변할 수 있었습니다.
배포 단계에서는 에이전트 응답의 일관성 유지가 어려웠습니다. 같은 입력에도 응답이 달라지는 경우가 있어 프롬프트 템플릿을 표준화하고 출력 파서를 추가해 응답 형식을 안정화했습니다. 덕분에 동일 입력에서 일관된 결과를 기대할 수 있었습니다.