pandas 메모리 문제 — 대용량 처리 방식 전환 경험
Python 데이터 분석에서 가장 어려웠던 점은 수억 행 데이터를 pandas로 처리하려다 메모리 부족이 발생한 상황이었습니다. 로컬 환경에서 코드를 작성해 전체 데이터에 적용하면 OOM(Out of Memory)으로 종료되는 문제가 반복됐습니다. 해결 방법으로 청크(chunk) 단위 처리를 적용하고, 불필요한 컬럼을 읽지 않도록 dtype 지정과 usecols 옵션을 활용했습니다. 이후 데이터 크기가 더 커지면서 Polars로 전환했고, pandas 대비 처리 속도가 크게 빨라졌습니다.
데이터 크기가 늘어날수록 도구 선택이 성능에 직접 영향을 준다는 것을 그 경험으로 배웠습니다. 팀 협력 면에서는 팀원들과 대용량 처리 패턴을 문서화해 공유했고, 이후 유사한 문제가 생겼을 때 같은 과정을 반복하지 않을 수 있었습니다.