우문현답
愚 問 賢 答
회사별 면접직군별진행 방식
    홈›회사별›토스›ML 엔지니어›질문 상세
    問
    토토스ML 엔지니어직무 역량2026년 출제

    음성 기반 AI 에이전트를 설계할 때 고려해야 할 주요 요소는 무엇인지, 그리고 그 이유는 무엇인지 설명해보세요.

    답변 미리보기

    생성형 AI를 활용한 앱을 설계할 때 제가 가장 먼저 고민하는 건 '출력이 예측 가능한가'입니다. 같은 입력에도 다른 결과가 나올 수 있는 특성 때문에…

    예상 답변 시간
    60~90초
    예상 꼬리질문
    3회
    난이도
    난이도 중상
    출제 빈도
    높음
    INTERVIEWER'S INTENT · 면접관의 의도

    이 질문, 네 갈래로 뜯어봅니다.

    면접관이 이 한 문장으로 확인하려는 것들. 각 갈래를 알면 답의 뼈대가 잡혀요.

    問
    01
    어떤 요소를 고려했는가?
    애플리케이션 설계에서 고려해야 할 요소의 흔적이 답에 있어야 합니다. 없으면 면접관이 '왜 그 요소가 중요한가?'를 추가로 묻는 경우가 자주 보입니다.
    骨
    02
    기술 선택의 기준은 무엇인가?
    Generative AI와 LLM 활용 시 기술 선택의 기준이 답에 포함된 흔적이 있어야 합니다. 없으면 면접관이 '어떤 기술이 적합하다고 생각했나?'를 추가로 질문하는 자리가 자주 보입니다.
    語
    03
    사용자 경험을 어떻게 반영했는가?
    사용자 경험을 반영한 흔적이 답에 있어야 합니다. 없으면 면접관이 '사용자 피드백은 어떻게 반영했는가?' 같은 질문을 던지는 자리가 자주 보입니다.
    本
    04
    데이터 보안은 어떻게 고려했는가?
    데이터 보안 관련 고려 사항의 흔적이 답에 있어야 합니다. 없으면 면접관이 '보안 측면에서 어떤 점을 강조했는가?'를 추가로 묻는 경우가 많습니다.
    말로 해봐야 는다
    읽는 것과 말하는 건 다릅니다.
    이 질문, 소리 내어 답해 볼까요?
    토스 면접관 페르소나가 이 질문을 던지고, 당신의 답에 꼬리질문으로 되물어요.
    음성으로 답해보기
    LLM 애플리케이션 설계에서 프롬프트 구조와 출력 신뢰성 확보 방식을 이야기한다약 84초LLM의 환각 문제를 RAG로 완화하는 설계 방식을 경험과 연결해 이야기한다약 82초LLM 앱의 품질을 지속적으로 모니터링하는 방법을 이야기한다약 86초
    프롬프트 설계 + 출력 제어
    약 84초

    LLM 애플리케이션 설계에서 프롬프트 구조와 출력 신뢰성 확보 방식을 이야기한다

    생성형 AI를 활용한 앱을 설계할 때 제가 가장 먼저 고민하는 건 '출력이 예측 가능한가'입니다. 같은 입력에도 다른 결과가 나올 수 있는 특성 때문에, 프롬프트 설계와 출력 검증 구조가 애플리케이션 신뢰성의 핵심이라고 생각합니다. 토이 프로젝트에서 문서 요약 기능을 만들 때, 처음엔 단순하게 요약해달라는 프롬프트만 썼습니다. 결과가 너무 들쭉날쭉해서 출력 길이와 형식을 프롬프트에 명시하고, 결과를 파싱하는 검증 단계를 추가했습니다. 그래도 특정 케이스에서 형식이 깨지는 경우가 발생해서, 폴백 로직을 추가했습니다. 아직 실무 수준은 아니지만, LLM은 확률적 시스템이라 결정론적 소프트웨어와 다른 방식으로 접근해야 한다는 걸 이 과정에서 배웠습니다. 입사하면 이 경험을 기반으로 실제 서비스 수준의 신뢰성을 갖추는 방법을 배우고 싶습니다.

    이 결의 특징
    출력 예측 가능성을 위해 프롬프트와 검증 구조를 설계한 흐름이 자주 보입니다.
    이 결이 통하는 자리
    신뢰성 설계가 담긴 답이 전문성을 보여주는 자리를 자주 봅니다.
    검색 증강 생성(RAG) 패턴 이해
    약 82초

    LLM의 환각 문제를 RAG로 완화하는 설계 방식을 경험과 연결해 이야기한다

    생성형 AI 앱을 설계할 때 환각(hallucination) 문제를 어떻게 줄일 것인가가 가장 큰 고민입니다. 모델이 그럴듯하게 틀린 답을 내놓는 것이 사용자 신뢰를 가장 빠르게 깨뜨리기 때문입니다. 수업에서 RAG(검색 증강 생성) 패턴을 배웠는데, 모델이 외부 문서를 참조해서 답변하도록 설계하면 환각을 크게 줄일 수 있다는 게 핵심이었습니다. 스터디에서 간단한 질의응답 앱을 RAG 방식으로 구현해봤는데, 처음엔 검색한 문서와 질문이 잘 연결되지 않아서 엉뚱한 문단을 가져오는 경우가 많았습니다. 임베딩 유사도 기준을 조정하면서 개선됐는데, 검색 품질이 전체 출력 품질을 결정한다는 걸 배웠습니다. 아직 실무 수준과 차이가 있지만, 이 패턴의 개념은 이해하고 있습니다.

    이 결의 특징
    환각 문제를 RAG 패턴으로 완화하려 한 경험이 있는 흔적이 있습니다.
    이 결이 통하는 자리
    기술적 이해가 담긴 답이 실무 감각을 보여주는 자리를 자주 봅니다.
    평가 지표 설계 + 사용자 피드백 루프
    약 86초

    LLM 앱의 품질을 지속적으로 모니터링하는 방법을 이야기한다

    생성형 AI 앱을 설계할 때 출시 후 품질이 유지되는가가 일반 소프트웨어보다 훨씬 어렵다고 생각합니다. 모델 동작이 비결정적이고, 사용자 입력 패턴이 계속 바뀌기 때문입니다. 수업에서 AI 프로덕트 설계 사례를 배우면서, 출력 품질을 자동으로 평가하는 지표를 처음부터 설계하는 것이 중요하다는 걸 알게 됐습니다. 토이 프로젝트에서 사용자 피드백 버튼(좋아요/싫어요)을 로그로 수집하는 구조를 추가했는데, 실제로 특정 유형의 질문에서 부정 피드백이 몰린다는 패턴을 발견했습니다. 그 패턴을 기반으로 프롬프트를 개선하는 실험을 진행했고, 부정 피드백이 줄었습니다. 처음엔 로그 설계를 생략했다가 나중에 추가하는 게 훨씬 복잡했습니다. 설계 초기에 평가 루프를 포함하는 것이 중요하다는 걸 실수로 배웠습니다.

    이 결의 특징
    사용자 피드백 루프를 설계해 품질을 지속 관리한 경험을 서술하는 답이 자주 등장합니다.
    이 결이 통하는 자리
    지속적 개선 시각이 담긴 답이 성숙한 엔지니어링 감각을 보여주는 자리를 자주 봅니다.
    !
    위 답변은 여러 풀이 중 한 가지 예시입니다. 정답이 아니며, 외워서 그대로 말하면 면접관이 다음 질문을 그 자리에서 시작하는 경우가 많습니다. 본인의 프로젝트·기준·숫자로 다시 짜는 자리로만 쓰세요.
    ✕자주 빠지는 자리

    같은 실수가 반복돼요. 이것만 피해도 절반은 갑니다.

    • ✕떨어뜨린 옵션이 1개라도 있는가? "이게 답이었어요"만으로는 의사결정이 아니라 그냥 선택입니다.
    • ✕선택 기준이 그 프로젝트에 한정되는가? "성능이 좋아서"는 일반론, "우리 트래픽이 X 패턴이라서"가 본인의 답입니다.
    • ✕결과 숫자 1개를 정확히 말할 수 있는가? P95·QPS·적중률 — 무엇이든 1개. 숫자가 없으면 직감으로 한 일처럼 들리기 쉽습니다.
    • ✕지금 다시 한다면 어떻게 할지 답할 수 있는가? "잘했다"보다 "이건 다르게 했을 것 같다"가 더 깊은 인상을 남깁니다.
    ▶이어질 꼬리질문

    진짜 면접은 두 번째 질문부터예요. 이 답 뒤에 따라올 법한 것들.

    壹이 요소를 선택한 이유는 무엇인지 설명해 주실 수 있나요?
    貳다른 요소들도 고려했을 경우 어떤 변화가 있었을까요?
    參이 설계 과정에서의 가장 큰 도전은 무엇이었나요?
    이제, 직접 답해볼 차례예요.
    눈으로 읽은 답은 면접장에서 나오지 않아요. 토스 면접관과 이 질문으로 한 번 대화해 보세요.
    이 질문으로 모의면접 해보기
    또는, 다음 질문으로

    같은 흐름에서 자주 이어지는 질문들이에요.

    넥스트증권 · ML 엔지니어
    AI 에이전트 시스템을 개발할 때 가장 중요하게 고려해야 할 요소는 무엇인가요?
    이 질문 보기
    토스 · 프로덕트 매니저
    AI와 ML 기반 제품을 기획하면서 가장 중요하게 고려해야 할 요소는 무엇이라고 생각하나요?
    이 질문 보기
    크래프톤 · AI 리서처
    AI 시스템을 설계할 때 어떤 요소들을 고려해야 한다고 생각하나요?
    이 질문 보기
    CJ올리브영 · ML 엔지니어
    AI 추천 시스템을 설계할 때 가장 중요하게 고려해야 할 요소는 무엇이라고 생각하나요?
    이 질문 보기
    안내 · 이 페이지의 질문·답변·꼬리질문은 유사 직군 채용 시장의 공개된 면접 후기·커뮤니티 게시물을 분석해 구성한 학습 자료입니다. 실제 출제·회사 공식 입장과는 무관하며, 정정 요청 시 24시간 내 반영합니다. 자세히
    개인정보처리방침이용약관문의
    © 2026 우문현답. All rights reserved.
    이 페이지 목차
    01면접관의 의도02답변의 결03실수·꼬리질문04관련 질문
    말로 해봐야 는다
    이 질문, 토스 면접관과
    음성으로 답해볼까요?
    모의면접 해보기
    첫 회 무료 · 종료 즉시 음성 폐기