RAG 기반 금융 Q&A 실험, 할루시네이션 위험성 체감
맞춤형 금융 콘텐츠를 AI로 생성할 때 가장 중요하게 보는 것은 사용자 컨텍스트를 어떻게 모델에 전달하느냐입니다. 단순히 LLM에 질문을 던지는 것이 아니라, 사용자의 투자 성향·보유 자산·최근 거래 내역을 RAG 구조로 연결해서 응답 품질을 높이는 방향이 현실적이라고 봅니다. 수업 프로젝트에서 금융 관련 질의응답 시스템을 만들면서 FAISS와 LLM을 연결해 공개 공시 데이터를 검색 소스로 쓰는 구조를 실험했습니다. 금융 도메인 특성상 할루시네이션이 특히 위험한데, 검색 소스를 명시적으로 인용하고 사용자가 직접 확인할 수 있게 하는 것이 중요하다고 봅니다. 한계는 개인정보와 실시간 거래 데이터를 실제로 다뤄본 경험이 없어서, 그 부분의 설계 복잡도는 아직 잘 모릅니다.