예시 답변 1
약 90초
Function Calling 도구 설명 최적화 결
AI Agent 프로젝트에서 Function Calling과 Tool Use를 활용해 에이전트가 자율적으로 행동하는 워크플로우를 구현한 경험이 있습니다. 처음에는 도구 설명을 모호하게 작성했더니 모델이 엉뚱한 도구를 선택하거나 아예 도구를 쓰지 않는 경우가 잦았습니다.
도구 설명에 언제 써야 하는지와 언제 쓰면 안 되는지를 명시하자 선택 정확도가 높아졌습니다. 파라미터 타입 정의를 명확히 하는 것도 중요했는데, 모델이 잘못된 타입의 값을 전달하면 런타임 오류가 발생했습니다. 도구 호출 결과를 다음 단계에 어떻게 전달하느냐도 최적화 지점이었는데, 전체 결과를 컨텍스트에 넣으면 비용이 늘어나서 핵심 정보만 추출해 전달하는 방식으로 개선했습니다. Tool Use 기반 에이전트는 도구를 잘 만드는 것보다 모델이 도구를 잘 이해하도록 설명하는 것이 성능을 결정한다는 결을 얻었습니다.
이 결의 특징
모호한 도구 설명이 엉뚱한 도구 선택으로 이어지던 문제를 짚고, 언제 쓰고 언제 쓰면 안 되는지를 명시해 선택 정확도를 높인 흔적이 있습니다. 결과 전달 시 핵심 정보만 추출한 결이 이어집니다.
이 결이 통하는 자리
도구를 잘 만드는 것보다 모델이 잘 이해하도록 설명하는 것이 성능을 결정한다는 결론이 구체 개선 사례로 뒷받침될 때 통합니다. 컨텍스트 비용까지 고려한 설계가 면접관에게 통합니다.