LLM 보안 진단 도구인 promptfoo를 활용한 경험이 있다면, 어떤 방식으로 사용했는지 구체적으로 설명해 주세요.

promptfoo를 선택한 핵심 이유는 민감한 프롬프트를 외부 API에 노출시키지 않고도 테스트를 자동화할 수 있기 때문입니다. LLM 보안 테스트에서 시스템 프롬프트 자체가 민감 정보를 포함하는 경우가 많은데, 클라우드 기반 도구를 쓰면 그 내용이 외부 서버로 전송됩니다.

로컬에서 실행 가능한 오픈소스 도구가 보안 테스트 맥락에서는 더 적합합니다. YAML로 케이스를 정의하면 테스트를 반복 실행할 때 일관성이 유지되고, 결과를 JSON으로 저장해서 비교하는 것도 가능합니다. 수동으로 매번 입력을 바꿔가며 확인하는 방식에 비해 재현 가능성과 비교 가능성이 높아지는 것이 자동화의 가장 큰 이점입니다. 도구를 선택할 때 기능보다 사용 맥락과 보안 요건이 도구의 구조와 맞는지를 먼저 확인하는 것이 중요합니다.