Prompt engineering을 넘어 context engineering을 어떻게 접근하나요?

졸업 작품으로 학습 도우미 챗봇을 만들 때, 대화가 길어질수록 앞의 내용을 잊어버리거나 입력 길이를 초과하는 문제가 생겼습니다. 전체 대화 이력을 다 넣으면 비용도 늘었습니다.

대화 이력을 요약 압축해 문맥을 유지하는 방식을 시도했습니다. 10턴이 지나면 앞 5턴을 요약으로 압축하고, 최근 5턴은 원문 그대로 유지했습니다. 요약 품질이 낮으면 중요한 정보가 사라지는 문제가 있어서 요약 프롬프트를 별도로 튜닝했습니다.

그 경험에서 문맥은 많을수록 좋은 게 아니라 핵심 정보의 밀도가 높아야 한다는 걸 배웠습니다. 무엇을 넣고 무엇을 버릴지 결정하는 것이 프롬프트를 잘 쓰는 것만큼 중요하다는 것이 지금도 제 기준입니다.