사내 AI 데모 제품을 0→1로 구축한 경험 서술
팀 내부 AI 툴을 처음부터 만들어 본 경험이 있다. 당시 팀원들이 매주 회의록을 수동으로 요약하는 데 시간을 꽤 쓰고 있었고, GPT API를 붙여서 회의록 자동 요약 도구를 만들어 보자는 아이디어를 냈다. 처음엔 단순히 텍스트를 붙여 넣어 요약만 하는 수준이었는데, 막상 써보니 회의마다 컨텍스트가 달라 프롬프트가 매번 달라져야 했다. 프롬프트 인젝션 방지와 출력 포맷 고정이 예상보다 어려운 문제였다. 반복 실험을 통해 역할 프롬프트와 출력 형식 지정을 조합하는 방식을 정착시켰고, 최종적으로 Notion에 자동 업로드되는 파이프라인까지 만들었다. 팀원 5명이 2개월 사용하면서 회의 후처리 시간이 체감상 절반 수준으로 줄었다. 이 경험에서 GenAI 제품은 모델 선택보다 프롬프트와 출력 파이프라인 설계가 훨씬 많은 시간을 잡아먹는다는 것을 직접 배웠다.