이 질문 뒤에 면접관이 확인하려는 것은 따로 있습니다.
프로젝트에서 간단한 AI 추천 모듈을 붙인 적이 있습니다. 정확도가 높아도 사용자가 왜 이 결과가 나왔는지 모르면 신뢰하지 않는다는 걸 사용자 인터뷰에서 확인했습니다. 그 이후로 AI 솔루션 운영 모델을 설계할 때는 정확도보다 설명 가능성을 먼저 챙기게 됐습니다. AI 코칭처럼 사람의 행동에 개입하는 솔루션이라면 특히 그렇습니다. 코칭 결과가 왜 나왔는지 사용자가 납득해야 다음 행동으로 이어지기 때문입니다. 운영 모델에는 피드백 루프도 함께 설계돼야 한다고 봅니다.
추천 → 사용자 반응 → 모델 재학습의 흐름이 끊기면 시간이 갈수록 정확도가 오히려 떨어지는 경험을 했습니다. 아직 대규모 운영은 경험해보지 못했지만, 설명 가능성과 피드백 루프라는 두 축은 이어집니다.
AI 코칭 솔루션 운영 모델을 경험한 것은 간단한 학습 추천 모듈을 만들어 실제 사용자에게 배포했던 프로젝트에서였습니다. AI가 추천한 콘텐츠 목록을 사용자에게 보여줬는데, 추천 이유가 없으면 사용자가 신뢰하지 않고 무시하는 패턴이 데이터에서 보였습니다.
XAI(설명 가능한 AI)를 적용해 왜 이 콘텐츠를 추천했는지 한 줄로 보여주는 것만으로 클릭률이 올라갔습니다. AI가 처리하기 어려운 구간 — 사용자가 의욕을 잃거나 방향을 바꾸고 싶은 상황에서는 인간 코치가 개입하도록 트리거 조건을 설계했습니다.
AI와 인간 코치의 역할을 명확히 분리해두지 않으면 운영 중에 중복 개입이나 공백이 생겼습니다. 운영 모델은 AI가 잘하는 것과 사람이 잘하는 것을 구분하는 데서 시작된다고 봅니다.
AI 코칭 솔루션에서 운영 모델에 가장 늦게 포함시켰지만 가장 먼저 챙겼어야 할 부분은 데이터 보관 정책과 편향 감지였습니다. 코칭 세션 데이터를 무기한 저장하고 있다가, 사용자가 삭제를 요청했을 때 어느 데이터를 어디서 어떻게 지워야 하는지가 명확하지 않았습니다.
개인정보 보관 기간과 삭제 범위를 운영 정책 문서로 먼저 정의한 뒤, 데이터 파이프라인에 삭제 훅을 추가했습니다. 편향 감지는 특정 그룹에게 일관되게 낮은 점수를 주는 패턴이 없는지를 주기적으로 확인하는 배치를 추가했습니다. 이 두 요소를 사후에 붙이는 것이 설계 단계에서 포함하는 것보다 수 배 더 복잡했습니다. 운영 신뢰는 기능이 완성된 뒤 챙기는 것이 아니라 설계 초기에 포함되어야 하는 항목이라는 것을 배웠습니다.
답변에서 흔히 빠지는 것들 — 빠져 있으면 꼬리질문이 깊어집니다.
이 질문에 이어 유디임팩트 BizOps·전략 면접관이 던질 가능성이 높은 후속 질문.
이 페이지의 질문·답변·꼬리질문은 유사 직군 채용 시장의 공개된 면접 후기·커뮤니티 게시물을 분석해 구성한 학습 자료입니다. 특정 회사가 실제로 이 질문을 출제했다는 것을 보장하지 않으며, 모든 예시는 우문현답이 직접 작성한 창작물입니다. 해당 회사의 공식 입장과는 무관합니다. 회사 측의 정정 요청이 있을 경우 24시간 이내에 응답·수정합니다.