프롬프트 인젝션 공격을 방어하기 위한 접근 방법에 대해 설명해 줄 수 있나요?

프롬프트 인젝션 방어는 단일 필터로 막으려는 시도 자체가 취약점이 된다고 생각합니다. 공격 패턴은 계속 바뀌고, 어떤 우회 방식이 나올지 미리 다 막을 수 없기 때문입니다. 그래서 제가 관심을 갖게 된 건 레이어를 나눠서 방어하는 구조입니다. 입력 단계에서 이스케이프 처리를 하고, 프롬프트 구성 시 사용자 입력을 시스템 지시와 분리하며, 모델의 출력이 허용된 범위인지 출력 단계에서 한 번 더 확인하는 방식입니다. 개인 실험에서 시스템 역할 탈취 문구가 포함된 입력이 들어올 때 각 레이어가 어떻게 반응하는지를 테스트해봤는데, 한 레이어가 통과되더라도 다음 단계에서 걸리는 구조가 실제로 효과적이라는 걸 확인했습니다. 또 도구 호출 권한을 최소화하는 것도 중요합니다. 모델이 악의적 지시를 따라가더라도 실제 액션으로 연결될 수 있는 도구 접근 범위 자체를 줄이면 피해 범위가 제한됩니다. 방어 로직을 추가하는 것보다 공격면을 줄이는 설계가 더 근본적인 접근이라고 생각합니다.