GPU 아키텍처와 관련된 경험을 통해 어떤 기여를 할 수 있을까요?

GPU 아키텍처를 시스템 수준에서 이해하게 된 계기는 CPU와 GPU 사이의 메모리 대역폭 병목을 직접 분석한 경험입니다. 수업 프로젝트에서 대용량 텍스처 데이터를 처리할 때 GPU 연산 자체보다 호스트 메모리에서 GPU 메모리로 데이터를 복사하는 시간이 더 오래 걸리는 걸 프로파일링으로 확인했습니다. SM 활용률 지표는 높았지만 전체 처리량이 낮았던 이유가 PCIe 전송 대역폭의 포화였습니다. 이 경험에서 GPU 내부 구조만 알면 안 되고, 메모리 계층과 버스 인터페이스가 어떻게 전체 처리량을 결정하는지 보는 시각이 필요하다는 걸 배웠습니다. 데이터 전송 최소화와 GPU 메모리 재사용을 전략으로 바꾸자 처리 시간이 확연히 줄었습니다.

시스템 병목은 연산 유닛이 아닌 인터페이스 대역폭에서 자주 생긴다는 것이 이후 저의 분석 출발점이 됐습니다.