경험 기반 솔직한 접근
특징 엔지니어링(Feature Engineering)에서 가장 중요하다고 생각하는 요소는 도메인 지식과 데이터 탐색을 결합하는 것입니다. 어떤 변수가 예측에 유의미한지를 데이터만으로 판단하기 어려울 때, 도메인 전문가의 인사이트가 유효한 특징을 찾는 지름길이 됩니다. 또 결측값 처리, 이상치 처리, 스케일링 방법 선택도 모델 성능에 직접 영향을 줍니다.
범주형 변수를 인코딩하는 방식(원핫, 레이블, 타겟 인코딩)도 상황에 따라 달리 써야 합니다. 수업 프로젝트에서 특징 선택 과정에 시간을 더 쏟을수록 모델 성능이 안정적으로 올라가는 것을 확인했습니다. 좋은 특징 하나가 복잡한 모델보다 성능을 더 크게 높이는 경우도 많습니다. 데이터를 이해하는 것이 모델링의 출발점입니다.