기술 경험 중심 1인칭 답변
실시간 컴퓨터 비전 프로젝트에서 OpenCV와 PyTorch를 주로 사용했고, 추론 속도 최적화를 위해 ONNX Runtime과 TensorRT를 활용한 경험이 있습니다. 캡스톤 프로젝트에서 엣지 디바이스에서 실시간 객체 감지를 구현했는데, 처음에는 PyTorch 모델을 그대로 사용했더니 프레임 처리 속도가 목표의 절반 수준밖에 안 됐습니다. ONNX로 변환 후 TensorRT 최적화를 적용하자 추론 속도가 3배 이상 개선됐습니다. 전처리 파이프라인에서는 OpenCV의 GPU 가속 기능을 활용해 리사이징과 정규화를 배치로 처리했고, 멀티스레딩으로 캡처와 추론을 분리해 처리 지연을 더 줄였습니다. 이 과정에서 모델 경량화보다 추론 파이프라인 최적화가 실시간 성능에서 더 즉각적인 효과를 낸다는 것을 배웠습니다. 앞으로도 추론 파이프라인 최적화와 전처리 병렬화를 실시간 비전 시스템 설계의 핵심으로 다루겠습니다.
모델 자체보다 파이프라인 구조가 실시간 성능을 결정하는 경우가 더 많습니다. OpenCV와 ONNX/TensorRT 조합이 엣지 환경에서 가장 실용적인 선택지라는 것을 프로젝트를 통해 확인했습니다.