예시 답변 1
약 86초
전력·발열·메모리 제약 구체화·회로 설계 트레이드오프·기술 관심 연결 중심으로 푸는 결
On-Device AI에서 회로 설계 관점의 가장 큰 도전은 전력과 성능 사이의 균형이라고 생각합니다. 클라우드와 달리 배터리로 구동되는 기기에서는 연산량이 늘수록 발열과 전력 소모가 함께 올라가는데, 이를 감당하지 못하면 쓰로틀링이 걸려 AI 기능이 제대로 동작하지 않는 문제가 생깁니다. 메모리 대역폭도 제약이 큰데, 모델 가중치와 입력 데이터를 빠르게 읽어오는 속도가 한계일 때 아무리 연산 유닛이 빠르더라도 병목이 생깁니다.
NPU(신경망 처리 장치) 설계에서 이 두 제약을 동시에 풀기 위해 양자화·프루닝처럼 모델을 경량화하는 기법과 하드웨어 최적화를 함께 맞춰가야 한다는 점이 흥미롭다고 생각합니다. 소프트웨어 알고리즘과 회로 설계가 함께 최적화되어야 의미 있는 성능이 나온다는 점에서, 앞으로 두 영역의 협력이 더 중요해질 것 같습니다.
학부에서 임베디드 시스템 과목을 들으면서 이 트레이드오프를 처음 인식하게 됐습니다.