면접관이 이 한 문장으로 확인하려는 것들. 각 갈래를 알면 답의 뼈대가 잡혀요.
AI Agent가 외부 도구를 호출할 수 있는 구조에서는 의도치 않은 명령이 실행될 위험이 있다고 판단해, 호출 가능한 도구 목록을 화이트리스트로 제한하고 각 호출을 로그로 남기는 절차를 마련했습니다. 이상 패턴이 감지되면 즉시 해당 Agent의 실행 권한을 일시 정지하는 대응 절차도 함께 문서화해두었습니다. 자율성이 높은 만큼 통제 지점을 명확히 두는 것이 중요하다고 생각합니다.
AI 기반 이상탐지 솔루션을 도입했을 때, 초기 오탐이 많아 실제 위협 신호가 묻히는 문제를 겪었습니다. 오탐 사례를 두 달간 수집해 패턴을 분석하고 탐지 규칙의 민감도를 조정해 오탐률을 낮췄습니다. 새로운 보안솔루션을 도입할 때는 처음부터 완벽하게 작동한다고 가정하지 않고, 튜닝 기간을 미리 계획에 포함시키는 것이 중요하다는 것을 배웠습니다.
외부에서 가져온 오픈소스 모델이나 라이브러리에 알려지지 않은 취약점이 포함될 수 있다는 점에서, 공급망 보안도 AI 보안의 중요한 축이라고 생각합니다. 사용 중인 오픈소스 구성요소의 버전과 취약점 정보를 정기적으로 대조하는 점검 체계를 만들고, 신규 도입 전에는 출처와 라이선스, 알려진 취약점을 먼저 확인하는 절차를 거치도록 제안한 적이 있습니다.
같은 실수가 반복돼요. 이것만 피해도 절반은 갑니다.
진짜 면접은 두 번째 질문부터예요. 이 답 뒤에 따라올 법한 것들.