선박 엔진 부품 견적 관리 경험에 대해 구체적인 사례를 들어 설명해줄 수 있나요?

AI 모델 활용에서 솔직히 말할 수 있는 건, 모델이 잘못된 결과를 낼 때 원인을 찾기 어렵다는 점입니다. 분류 모델을 만들었는데, 특정 클래스에서 정확도가 유독 낮은 이유를 파악하는 데 시간이 많이 걸렸습니다. 학습 데이터가 그 클래스에서 불균형했는데, 불균형 자체를 인식하지 못한 채 모델을 학습시켰기 때문이었습니다. 오버샘플링으로 일부 해결했지만, 왜 그 클래스에서만 낮았는지 완전히 설명하지는 못했습니다. 그 경험에서 AI 모델의 결과를 해석하는 것이 모델을 만드는 것만큼 어렵다는 걸 배웠습니다.

모델의 동작을 블랙박스로 받아들이지 않고 설명하려는 시도를 해야 한다는 것도 그때 생긴 인식입니다. 아직 설명 가능한 AI 기법을 깊이 다뤄본 경험은 없지만, 내 모델이 왜 그런 결과를 냈는지 묻는 습관은 생겼습니다.