A
약 120초
LLM API 연결 텍스트 요약 서비스 배포 경험
GenAI 시스템을 엔드투엔드로 배포한 경험은 없지만, 수업 프로젝트에서 LLM API를 연결해 텍스트 요약 서비스를 처음부터 배포까지 혼자 진행한 적 있습니다. 제가 담당한 범위는 프롬프트 설계, 백엔드 API, 간단한 프론트엔드까지였습니다. 안전·정책 측면에서 고민한 것은 사용자 입력이 그대로 LLM에 들어가는 구조에서 프롬프트 인젝션을 어떻게 막을지였습니다. 당시엔 입력 길이 제한과 특수 패턴 차단 정도만 적용했는데, 완전한 방어는 아니었습니다. 엔터프라이즈 환경에서 실제로 쓰이려면 응답 일관성, 할루시네이션 탐지, 모니터링 대시보드가 추가로 필요하다는 걸 이후 논문을 읽으며 알았습니다. 한계는 모델 서빙 최적화나 비용 관리는 경험이 없고, 소규모 시연 수준이었습니다.
이 결의 특징
GenAI 시스템을 규정 준수 환경에서 처음 구축하면서 입력 데이터 분류, 레이턴시, 모니터링 대시보드 세 축으로 설계를 나눈 결입니다. '보안 정책 충돌은 어떻게 처리했나요?'라는 질문이 들어올 자리를 미리 채워 두는 흐름이 보입니다.
이 결이 통하는 자리
사내 규정이나 개인정보 처리 지침이 있는 환경에서 LLM을 붙여본 경험이 있을 때 살아납니다. 프롬프트 필터링이나 출력 마스킹 같은 구체 대응이 한 줄이라도 붙어 있으면 면접관이 실무 감각을 읽는 결이 됩니다.