면접관이 이 한 문장으로 확인하려는 것들. 각 갈래를 알면 답의 뼈대가 잡혀요.
사이드 프로젝트에서 고객 문의를 자동으로 분류하고 초안 답변을 생성하는 기능을 OpenAI API로 구현한 경험이 있습니다. 단순 키워드 매칭 방식보다 문의 맥락을 이해하는 정확도가 훨씬 높았지만, 초기에는 응답 지연이 3초 이상 걸려 사용자 경험을 해쳤습니다. 프롬프트를 간결화하고 필요한 경우에만 긴 컨텍스트를 포함하도록 조정해 평균 응답 시간을 1.2초까지 줄일 수 있었습니다.
업무용 사내 도구로 긴 회의록을 자동 요약하는 기능을 LLM API로 구현한 경험이 있습니다. 처음에는 전체 회의록을 한 번에 넣었더니 토큰 제한에 걸리는 문제가 있었는데, 회의록을 구간별로 나눠 요약한 뒤 다시 통합 요약하는 2단계 방식으로 바꿔 해결했습니다. 이후 팀원들의 회의록 확인 시간이 평균 10분에서 2분으로 줄었다는 피드백을 받았습니다.
사내 지식베이스 검색 기능을 개선하기 위해 임베딩 기술을 활용해 의미 기반 검색을 구현한 경험이 있습니다. 기존 키워드 검색으로는 찾지 못하던 유사 질문을 벡터 유사도로 찾아낼 수 있게 됐고, 검색 결과 클릭률이 기존 대비 약 30퍼센트 높아졌습니다. 다만 임베딩 저장과 검색에 드는 인프라 비용도 함께 고려해야 한다는 것을 그 과정에서 배웠습니다.
같은 실수가 반복돼요. 이것만 피해도 절반은 갑니다.
진짜 면접은 두 번째 질문부터예요. 이 답 뒤에 따라올 법한 것들.