면접관이 이 한 문장으로 확인하려는 것들. 각 갈래를 알면 답의 뼈대가 잡혀요.
생성형 AI 도입 위험은 크게 데이터 위험, 모델 위험, 운영 위험으로 나눠 평가하는 것이 유용하다고 생각합니다. 데이터 위험은 입력값에 민감 정보가 포함될 가능성을, 모델 위험은 잘못된 정보나 편향된 출력을, 운영 위험은 서비스 장애나 비용 급증 가능성을 뜻합니다. 학습 과정에서 이 세 축으로 위험을 정리해본 적이 있는데, 각 위험마다 대응 방법이 다르기 때문에 구분해서 접근하는 것이 효율적이라고 느꼈습니다.
생성형 AI와 관련된 보안성 검토를 수행하며, 가장 신경 썼던 부분은 모델이 생성한 결과물에 포함될 수 있는 저작권이나 명예훼손 관련 문제였습니다. 실습 사례에서 특정 프롬프트로 유도했을 때 부적절한 콘텐츠가 생성될 수 있는지 여러 시나리오로 테스트해봤고, 실제로 몇몇 시나리오에서 취약점을 발견해 필터링 규칙을 추가하는 개선안을 제시한 경험이 있습니다.
위험 평가는 도입 시점 한 번으로 끝나는 것이 아니라 지속적으로 모니터링해야 한다고 생각합니다. 모델이 업데이트되거나 사용 패턴이 바뀌면 새로운 위험이 발생할 수 있기 때문입니다. 또한 기술적 위험뿐 아니라, 그 위험이 실제로 발생했을 때 회사 이미지나 고객 신뢰에 미칠 영향까지 함께 고려해야 한다고 생각하며, 이런 관점에서 위험의 우선순위를 정하는 것이 중요하다고 봅니다.
같은 실수가 반복돼요. 이것만 피해도 절반은 갑니다.
진짜 면접은 두 번째 질문부터예요. 이 답 뒤에 따라올 법한 것들.