A
약 90초
AI 활용 서비스 개발 경험 — 사용자 가치 중심으로 기능 구현
AI를 활용한 서비스 개발에서 가장 중요한 건 AI 기능 자체보다 그것이 사용자에게 어떤 가치를 주는지라고 생각합니다. AI를 쓴다는 것이 목적이 되면 기술은 그럴듯하지만 쓸모없는 서비스가 되기 쉽습니다. 프로젝트에서 텍스트 분류 모델을 서비스에 붙였을 때, 모델 정확도보다 사용자가 결과를 신뢰할 수 있는지가 더 중요한 문제였습니다. 모델이 틀렸을 때 사용자가 어떻게 수정할 수 있는지를 설계하지 않으면 신뢰성 문제로 이탈이 생겼습니다. AI 서비스에서는 예측 결과와 함께 왜 그런 결과가 나왔는지 설명할 수 있는 것이 사용자 신뢰를 높이는 방향이라고 봅니다. 또 모델이 잘못된 방향으로 편향되는지를 지속적으로 모니터링하는 것도 중요합니다. 좋은 AI 서비스는 모델 성능보다 사용자 경험 설계가 먼저입니다.
이 결의 특징
AI 기능 자체보다 사용자 가치가 중요하다는 명확한 우선순위와 텍스트 분류 모델 정확도보다 사용자 신뢰 가능 여부가 더 중요한 문제라는 깨달음이 있습니다.
이 결이 통하는 자리
모델이 틀렸을 때 사용자가 수정할 수 있게 설계하지 않으면 신뢰성 문제로 이탈이 생긴다는 실제 실패와 예측 결과와 왜 그런 결과가 나왔는지 설명할 수 있을 때 신뢰를 높인다는 원칙이 있을 때 AI 서비스의 본질이 증명되는 결이 보입니다.