이 질문 뒤에 면접관이 확인하려는 것은 따로 있습니다.
AI 시스템의 모의해킹 진단 기준을 정의할 때는 기존 웹/앱 취약점 기준과 AI 특유의 공격 벡터를 구분해야 한다고 생각합니다. 일반적인 입력 검증 이슈 외에도, 프롬프트 인젝션, 모델 추출, 데이터 중독 같은 AI 고유의 리스크가 존재합니다. 보안 수업에서 배운 위협 모델링 방식을 적용하면, AI 시스템이 어떤 입력을 받고 무엇을 출력하는지를 먼저 매핑한 뒤 각 단계에서 악용 가능한 지점을 분석하는 흐름이 유효합니다. 특히 서비스 특성에 따라 허용 가능한 리스크 수준이 다르기 때문에, 기준은 범용보다 맥락에 맞게 설계돼야 한다고 생각합니다.
AI 보안은 기존 방법을 확장하되 AI 특유의 공격 패턴을 별도로 정의하는 접근이 필요하다는 원칙을 갖게 됐고, 실무에서 그 기준을 만들어가고 싶습니다.
AI 모의해킹 기준을 정의할 때 가장 먼저 하는 것은 공격 표면을 입력·처리·출력 세 단계로 나눠 매핑하는 작업입니다. 같은 AI 기능이라도 외부 입력을 그대로 모델에 넘기는 구조와 내부 정제를 거친 뒤 넘기는 구조는 리스크가 다릅니다. 사용자가 직접 텍스트와 이미지를 올리는 플랫폼에서는 입력 단계에서 적대적 예제와 프롬프트 인젝션에 노출될 가능성이 상대적으로 높습니다. 처리 단계에서는 모델이 학습한 데이터의 편향이 특정 사용자 그룹에 불리하게 작동하는지를 살피는 게 중요하고, 출력 단계에서는 민감 정보가 응답에 포함되는 경우를 검토합니다. 콘텐츠 필터링, 가격 추천, 신뢰도 평가 중 어떤 역할을 맡는지에 따라 오작동의 영향도가 다르기 때문에, 우선순위도 역할 단위로 먼저 잡는 것이 효율적이라고 생각합니다.
넓게 다 커버하기보다 실제 피해가 발생하는 경로에 집중하는 것이 저의 출발점입니다.
AI 진단 기준을 세울 때는 먼저 AI 시스템이 어떤 결정을 내리고 그 결정이 어디에 영향을 주는지부터 정리합니다. 같은 오탐이라도 콘텐츠 필터링 AI에서는 사용자 거래가 막히는 직접적인 피해로 이어지는 반면, 가격 추천에서는 사용자가 무시할 수 있어 영향도가 다릅니다. 보안 수업에서 OWASP Machine Learning Security Top 10을 처음 접했을 때, 공격 유형보다 어떤 단계에서 영향도가 큰지를 먼저 보는 프레임이 실용적이라는 걸 알았습니다. 진단 기준은 이 프레임을 바탕으로 서비스 특성에서 실제로 발생 가능한 시나리오만 추려 적용하는 방식이 현실적입니다.
기준을 전부 적용하려 하면 리소스가 분산되기 때문에, 영향도와 발생 가능성을 축으로 우선순위를 먼저 정하는 것이 저의 접근 방식입니다. 프롬프트 인젝션, 모델 추출, 데이터 중독은 플랫폼 구조에 따라 위험도가 달라지는 항목으로 별도로 다루는 게 좋다고 생각합니다.
답변에서 흔히 빠지는 것들 — 빠져 있으면 꼬리질문이 깊어집니다.
이 질문에 이어 당근마켓 보안 엔지니어 면접관이 던질 가능성이 높은 후속 질문.
이 페이지의 질문·답변·꼬리질문은 유사 직군 채용 시장의 공개된 면접 후기·커뮤니티 게시물을 분석해 구성한 학습 자료입니다. 특정 회사가 실제로 이 질문을 출제했다는 것을 보장하지 않으며, 모든 예시는 우문현답이 직접 작성한 창작물입니다. 해당 회사의 공식 입장과는 무관합니다. 회사 측의 정정 요청이 있을 경우 24시간 이내에 응답·수정합니다.