LLM 또는 ML 기반 기술을 활용하여 고객의 탐색 경험을 어떻게 개선할 수 있다고 생각하시나요?

LLM 기반 고객 경험 제품의 비전을 정의할 때 핵심은 LLM이 무엇을 대체하는 게 아니라 고객이 어디서 막히는지를 먼저 파악하는 것입니다. 제품 비전은 고객이 원하는 결과를 더 빠르고 쉽게 얻게 만드는 것이어야 하고, LLM은 그 수단입니다. 연구 프로젝트에서 FAQ 챗봇을 LLM으로 전환했을 때 정형 질문 응답률은 높아졌지만 복잡한 컨텍스트 질문에서 환각이 발생하는 문제를 겪었습니다. 이를 해결하기 위해 RAG를 도입하고 응답에 출처를 함께 표시하는 방식으로 신뢰도를 높였습니다. 실행 계획에서 가장 중요한 건 초기 범위를 좁게 잡고 성공 기준을 사전에 정의해 검증 루프를 빠르게 돌리는 것입니다. 앞으로도 LLM 기반 제품에서 신뢰도와 범위 설정을 함께 설계하는 방식을 유지하겠습니다. 앞으로도 LLM 기반 제품에서 신뢰도와 초기 범위 설정을 함께 설계하는 방식을 유지하겠습니다.

범위를 좁게 잡고 성공 기준을 먼저 정의해야 빠른 검증 루프가 가능합니다. RAG와 출처 명시가 LLM 서비스 신뢰도를 높이는 가장 실용적인 구조입니다.