CTR 예측 베이스라인·피처 설계·모델 성능 비교·오프라인·온라인 지표 설계 중심으로 푸는 결
피드 품질 개선 관련 머신러닝을 다뤄본 건 학부 캡스톤 프로젝트에서입니다. 중고 거래 데이터를 시뮬레이션해 사용자별 게시글 클릭 확률을 예측하는 모델을 만들었는데, 피처로는 게시글 카테고리, 업로드 시간, 사용자 최근 열람 기록을 사용했습니다. 첫 번째 시도는 `Logistic Regression`으로 베이스라인을 잡았고, 이후 LightGBM을 적용했을 때 AUC-ROC가 0.71에서 0.79로 올라가는 걸 확인했습니다. 피처 엔지니어링 과정에서 시간대를 원핫으로 넣었을 때보다 "점심/저녁/심야" 3구간으로 묶었을 때 성능이 더 좋았는데, 사용자 행동이 세분 시간보다 큰 덩어리로 묶인다는 걸 데이터로 확인한 경험이었습니다.
결과 측정은 오프라인 지표와 함께, 실제 서비스였다면 어떤 온라인 지표를 볼 것인지도 설계해서 발표 때 피드백이 좋았습니다. 실제 피드 업무에서는 콜드스타트 문제와 실시간 추론 지연이 추가 과제라는 걸 공부하면서 알게 됐고, 그 부분을 이어서 준비하고 있습니다.