Generative AI를 시스템에 통합한 경험이 있다면, 어떤 방식으로 접근했는지 설명해 주세요.

Generative AI를 시스템에 통합한 경험은 고객 문의 응답 지원 도구에 LLM을 연결한 것입니다. CS 팀이 자주 받는 질문 유형을 분류하고 RAG 방식으로 내부 문서를 검색 소스로 연결했습니다. 가장 어려웠던 부분은 프롬프트 일관성과 응답 품질 관리였습니다. 입력 형식이 달라지면 결과가 달라져서 입력 정규화 레이어를 앞에 두고, 응답은 신뢰도 점수와 함께 담당자가 확인하는 구조로 설계했습니다. AI 응답을 완전 자동화하지 않고 사람이 최종 확인하는 HITL 구조를 유지한 것이 초기 신뢰를 만드는 데 중요했습니다. 앞으로도 AI 통합에서 입력 정규화 + HITL 구조를 기본으로 설계하는 방식을 유지하겠습니다. 앞으로도 AI 통합에서 입력 정규화 + HITL 구조를 기본으로 설계하는 방식을 유지하겠습니다.

AI 응답을 완전 자동화하지 않고 사람이 최종 확인하는 구조가 초기 신뢰를 만드는 데 중요합니다. RAG 방식은 최신 정보를 반영하면서 환각을 줄이는 현실적인 방법입니다.