AI 모델을 활용한 서비스 기능 설계와 구현 과정에서 어떤 도구와 방법론을 사용했는지 이야기해 주세요.

졸업 프로젝트에서 게임 NPC 대화 시스템에 GPT-4o-mini API를 연동하는 기능을 설계하고 구현했습니다. 팀에서 저는 API 연동 설계와 프롬프트 구조 설계를 맡았습니다. 처음에는 NPC 발화를 직접 생성하게 했는데, 응답이 게임 세계관과 맞지 않는 경우가 자주 나왔습니다. 모델이 맥락 없이 일반적인 대화를 생성하고 있었기 때문입니다.

시스템 프롬프트에 세계관 설정과 NPC 성격 정보를 구조화해서 넣는 방식으로 수정했고, 응답 일관성이 눈에 띄게 나아졌습니다. 방법론은 RAG 대신 컨텍스트 압축 방식을 택했는데, 게임 내 정보 검색 레이턴시를 줄이는 게 UX에서 중요하다고 판단했기 때문입니다. 결과 평가는 팀 내부에서 10명에게 대화 일관성과 몰입감을 5점 척도로 평가하게 했고, 수정 후 평균 점수가 2.8에서 4.1로 올랐습니다. AI 모델을 서비스에 연동할 때는 출력 품질만큼 응답 속도와 컨텍스트 설계가 같이 가야 한다는 걸 이 경험에서 배웠습니다.