GPU 아키텍처 이해: SM 구조·워프 스케줄링·메모리 계층을 실습으로 검증
약 70초
GPU 아키텍처와 디자인 원칙에 대한 이해를 어떻게 증명할지 설명
GPU 아키텍처를 공부하면서 CPU와 근본적으로 다른 설계 철학이 인상적이었습니다. 소수의 강력한 코어 대신 수천 개의 작은 코어가 병렬로 동작하는 구조는, 레이턴시 최적화보다 처리량(throughput) 최대화에 초점을 맞추고 있었습니다. CUDA 프로그래밍 실습에서 스레드 블록과 그리드 구성에 따라 실행 속도가 크게 달라지는 걸 직접 측정했고, 메모리 접근 패턴이 성능에 미치는 영향을 수치로 확인했습니다. SM(Streaming Multiprocessor) 단위에서 워프가 스케줄링되는 방식을 이해하면서, 메모리 지연을 숨기기 위해 많은 스레드를 동시에 준비해두는 전략이 왜 GPU에서 효과적인지 납득했습니다.
공유 메모리와 전역 메모리 접근 비용 차이를 측정한 실습에서 캐시 계층 구조의 중요성을 체감했습니다. 아직 하드웨어 설계 수준까지 깊지는 않지만, 성능 특성이 아키텍처 결정에서 나온다는 연결 고리는 이해했습니다.