nori 토크나이저 설정 조정으로 검색 정확도 개선 경험
검색 기능을 구현하다가 한국어 특성 때문에 단순 LIKE 쿼리로는 원하는 결과를 못 찾는 문제가 생겼고, 한국어 형태소 분석 기반 검색을 처음 도입해봤습니다. nori 토크나이저를 설정하면서 품사 필터링으로 조사와 어미를 제거하면 같은 어근의 다양한 형태가 하나로 묶인다는 걸 배웠습니다. 처음에는 기본 설정 그대로 썼는데 복합어 분리 방식이 검색 의도와 맞지 않는 경우가 있어서, 사용자 쿼리 패턴을 분석한 뒤 분리 정도를 조정했습니다.
형태소 분석기 설정은 정확도와 재현율 사이의 트레이드오프였는데, 너무 잘게 분리하면 노이즈가 늘고 너무 보수적이면 검색 누락이 생겼습니다. 지금도 검색 기능을 설계할 때 언어 특성을 먼저 고려하고 인덱스 구조를 결정하는 방향을 따릅니다.