GPU 파이프라인에 대한 깊은 이해를 바탕으로, 현재의 기술 트렌드를 어떻게 적용할 수 있을지 예를 들어 설명해 보세요.

GPU 아키텍처를 시스템 수준에서 이해하게 된 계기는 CPU와 GPU 사이의 메모리 대역폭 병목을 직접 분석한 경험입니다. 수업 프로젝트에서 대용량 텍스처 데이터를 처리할 때 GPU 연산 자체보다 호스트 메모리에서 GPU 메모리로 데이터를 복사하는 시간이 더 오래 걸리는 걸 프로파일링으로 확인했습니다. SM 활용률 지표는 높았지만 전체 처리량이 낮았던 이유가 PCIe 전송 대역폭의 포화였습니다. 이 경험에서 GPU 내부 구조만 알면 안 되고, 메모리 계층과 버스 인터페이스가 어떻게 전체 처리량을 결정하는지 보는 시각이 필요하다는 걸 배웠습니다. 데이터 전송 최소화와 GPU 메모리 재사용을 전략으로 바꾸자 처리 시간이 확연히 줄었습니다.

시스템 병목은 연산 유닛이 아닌 인터페이스 대역폭에서 자주 생긴다는 것이 이후 저의 분석 출발점이 됐습니다.