불균형 데이터 분류에서 정확도 대신 적절한 평가 지표를 택한 경험을 1인칭으로 설명한다.
제가 학부 프로젝트에서 불균형 데이터로 분류 모델을 만들어 본 경험이 있습니다. 처음에 저는 정확도만 보고 '95% 맞혔다'며 좋아했다가, 사실 모델이 다수 쪽만 찍고 있던 실패를 알게 됐습니다.
드물게 일어나는 사건을 맞히는 게 목적이었는데, 정확도는 그걸 전혀 보여주지 못했습니다. 그 뒤로 저는 평가 지표부터 바꿨습니다. 소수 클래스를 얼마나 잡아내는지 보는 재현율과, 그 예측이 얼마나 믿을 만한지 보는 정밀도를 함께 봤습니다.
지표를 바로잡자 모델의 진짜 성능이 보였고, 무엇을 개선해야 할지도 또렷해졌습니다. 불균형 데이터 분류에서 제가 가장 먼저 한 건, 화려한 기법을 덮어놓고 쓰는 게 아니라 목적에 맞는 잣대를 고르는 일이었습니다. 잣대가 틀리면 그 위의 모든 노력이 헛돌았습니다.