A
약 120초
SHAP 기반 설명 가능성 + 공정성 검증 + 모델 드리프트 모니터링 구조 이해
금융 규제 환경에서 모델을 운영할 때 주의해야 했던 점은 모델 결정의 설명 가능성이었습니다. 대출 승인 같은 결정은 왜 거절됐는지 고객에게 설명 가능한 구조가 중요합니다. 수업에서 SHAP 기반 설명 기법을 공부하면서 단순히 높은 정확도보다 설명 가능한 모델을 우선해야 하는 상황이 있다는 걸 배웠습니다.
공정성(Fairness) 검증도 중요한데, 특정 인구 집단에서 모델이 불공평하게 작동하는지를 정기적으로 체크하는 구조가 필요합니다. 모델 드리프트 관점에서는 경제 환경이 바뀌면 예전 학습 데이터로 만든 모델이 더 이상 유효하지 않을 수 있어서, 모니터링과 정기 재학습 스케줄이 필요합니다. 한계는 실제 금융 기관의 규제 컴플라이언스 프로세스에 참여한 경험은 없습니다.
이 결의 특징
대출 승인 거절에 설명 가능한 구조가 필요하다는 것과, 공정성 검증을 정기 체크해야 한다는 학습 내용이 담겨 있습니다. 현장 경험보다 개념 이해 수준임을 솔직히 두고 있습니다.
이 결이 통하는 자리
금융 규제 환경의 핵심 요구사항을 개념 수준에서 설명할 수 있는 사람임이 드러날 때 통합니다.