의료AI 프로젝트에서 직면했던 가장 큰 문제와 이를 어떻게 해결했는지 이야기해 주세요.

의료 영상 AI의 임계값을 기술 팀이 단독으로 설정했는데, 현장 의료진에게 보여줬을 때 '이 케이스는 놓치면 안 된다'는 반응이 나왔어요. 기술 성능 지표로는 좋은 결과였지만 임상적으로 중요한 케이스에서 오탐 비율이 용납할 수 없는 수준이었습니다.

의료 AI의 임계값은 통계적 성능이 아니라 임상 위험 비용을 기준으로 설정해야 하고, 미탐과 오탐 중 어떤 오류가 더 위험한지는 의료 전문가가 결정해야 한다는 걸 그 경험에서 배웠어요. 의료 AI에서 기술팀과 임상팀이 각자 최적화하면 서로가 원하는 것이 다른 결과물이 만들어진다는 걸 알았습니다.

지금은 의료 AI 프로젝트에서 성능 지표 설계 단계부터 임상팀이 참여하고, 임계값 결정을 공동으로 하는 프로세스를 씁니다. 도메인 전문가 없이 AI 성능을 결정하는 것은 반쪽 판단이라는 원칙이 그 경험에서 나왔습니다.