0에서 1로 Generative AI 제품을 구축한 경험에 대해 구체적으로 말씀해 주세요.

GenAI 제품을 만들 때 예상보다 오래 걸린 부분은 출력이 매번 일관되지 않는 문제였습니다. 같은 입력에도 출력이 달라지는 것이 생성 모델의 특성이지만, 실제 서비스에서는 포맷과 내용이 어느 정도 예측 가능해야 한다는 것을 처음엔 과소평가했습니다. 환각 문제도 있었는데, 회의 내용에 없는 결론이 요약에 나타나는 경우가 간헐적으로 발생했습니다. 이 문제를 줄이기 위해 프롬프트에 '원문에 없는 내용은 포함하지 않는다'는 지시를 추가하고, 출력 형식을 구조화된 포맷으로 고정하는 방식을 적용했습니다. 완전히 없어지지는 않았지만 팀원들이 직접 검토하는 단계를 마지막에 유지하는 것으로 타협했습니다. 이 경험에서 배운 것은 GenAI 제품에서 품질을 100% 모델에 맡기는 것은 위험하고, 인간 검토 단계가 설계에 포함돼야 한다는 것입니다.

자동화가 가능한 것과 인간이 책임져야 하는 것을 구분하는 설계가 필요합니다.