계층 시뮬레이션과 성능 모델 캘리브레이션으로 GPU 모델링 구축 결
성공적인 GPU 모델링 방법론 구축을 위해서는 추상화 수준에 따라 다른 모델을 계층적으로 사용하는 접근이 효과적입니다. 아키텍처 탐색 단계에서는 빠른 사이클 레벨 시뮬레이터를 사용하고, 검증 단계에서는 RTL 수준으로 정밀도를 높이는 방식으로 속도와 정확도의 균형을 유지합니다.
수업에서 간단한 GPU 성능 모델을 작성하면서, 메모리 대역폭과 컴퓨트 처리량 중 어느 쪽이 병목인지를 매트릭스 곱 연산으로 분석했습니다. 실제 워크로드의 산술 강도(arithmetic intensity)를 계산하면 루프오프 곡선에서 어느 구간에 위치하는지를 예측할 수 있습니다.
GPU 모델링에서 중요한 것은 모델 캘리브레이션의 반복입니다. 실제 하드웨어 측정값과 모델 예측값을 주기적으로 비교하고 오차를 줄여가는 과정이 모델 신뢰도를 높이고, 설계 결정의 근거가 되는 예측력을 만듭니다.