SIMT 프로그래밍 모델과 메모리 접근 패턴 이해를 기반으로 GPU 아키텍처 최적화 방향 파악
GPU 프로그래밍 모델이 아키텍처 설계에 미치는 영향은 학부 병렬 컴퓨팅 수업에서 처음 이해했습니다. SIMT(Single Instruction Multiple Threads) 모델에서 실제 효율은 워프 내 분기 발산이 얼마나 적은지에 달려 있기 때문에, 아키텍처 혁신은 이 분산을 줄이는 방향으로 이어집니다.
메모리 접근 패턴이 코얼레스된 경우와 불규칙한 경우 메모리 대역폭 활용률이 크게 달라지는 것을 직접 실험했습니다. 공유 메모리와 레지스터 파일 크기가 동시 실행 가능한 워프 수에 직결되기 때문에, 리소스 점유와 처리량 사이의 트레이드오프가 아키텍처 혁신의 핵심 공간입니다.
워크로드 특성을 먼저 이해해야 어떤 아키텍처 개선이 실질적 성능 향상을 만드는지 판단할 수 있습니다. 이 관점이 GPU 아키텍처를 볼 때 기본 판단 틀이 됐습니다.