이 질문 뒤에 면접관이 확인하려는 것은 따로 있습니다.
수업 프로젝트에서 NPU 블록이 SoC에 추가될 때 메모리 대역과 전력 예산에 어떤 영향을 주는지 분석했습니다. 온디바이스 ML은 추론 반복 주기가 짧아 캐시 미스 패턴이 일반 CPU 워크로드와 다르다는 점을 파악했습니다. 가중치 재사용을 최대화하려면 온-칩 SRAM 크기와 데이터 레이아웃을 함께 조정해야 했고, 크기를 늘리면 면적과 누설 전력이 함께 증가하는 구조였습니다.
전력-면적-성능 세 축을 동시에 보는 시뮬레이션을 돌려 허용 범위를 좁혔고, 허용 범위 안에서 최적 조합을 선택했습니다. 이 과정에서 온디바이스 ML은 메모리 계층 설계와 전력 버짓이 아키텍처 초기에 결정된다는 결을 배웠습니다.
학부 SoC 설계 수업에서 ML 가속기 아키텍처를 분석하는 과제를 했습니다. NPU 설계에서 TOPS 수치보다 메모리 대역폭이 성능을 먼저 제한하는 경우가 있다는 걸 그때 발견했습니다. 연산량(TOPS)이 높아도 가중치를 메모리에서 읽는 속도가 느리면 연산 유닛이 대기하게 됩니다. 두 NPU 아키텍처를 비교해보니 한 쪽은 온칩 SRAM을 크게 두어 이 문제를 완화했습니다.
메모리 대역폭 제약을 해소하는 방식이 아키텍처 차이를 만든다는 걸 이 분석에서 배웠습니다. NPU 성능은 연산 속도와 메모리 공급 속도 중 느린 쪽이 결정합니다. 이 경험에서 온디바이스 ML은 연산 최적화만큼 메모리 접근 최적화가 같이 설계돼야 한다는 걸 알았습니다.
학부 수업에서 같은 모델을 온디바이스 배포용으로 변환하는 실습을 했습니다. 원래 모델 정확도가 97%였는데, 양자화(INT8 변환) 후 94%로 낮아졌습니다. 모델 크기는 절반으로 줄었지만 정확도 손실이 발생했습니다. 어느 애플리케이션은 이 손실이 허용되지만, 의료·보안 목적이라면 허용되지 않을 수 있습니다.
정확도와 크기 사이의 트레이드오프는 온디바이스 ML에서 설계자가 직접 결정해야 하는 문제입니다. 온디바이스 ML은 클라우드 ML보다 제약 조건이 많기 때문에 어느 제약을 우선할지 기준이 있어야 합니다. 이 경험에서 온디바이스 ML의 한계는 어떤 제약을 먼저 보느냐에 따라 허용 범위가 달라진다는 걸 배웠습니다.
답변에서 흔히 빠지는 것들 — 빠져 있으면 꼬리질문이 깊어집니다.
이 질문에 이어 삼성전자 반도체 회로설계 면접관이 던질 가능성이 높은 후속 질문.
이 페이지의 질문·답변·꼬리질문은 유사 직군 채용 시장의 공개된 면접 후기·커뮤니티 게시물을 분석해 구성한 학습 자료입니다. 특정 회사가 실제로 이 질문을 출제했다는 것을 보장하지 않으며, 모든 예시는 우문현답이 직접 작성한 창작물입니다. 해당 회사의 공식 입장과는 무관합니다. 회사 측의 정정 요청이 있을 경우 24시간 이내에 응답·수정합니다.