경험 기반 구체화
장기 학습 기반 추론 구조를 연구할 때 가장 중요하게 고려해야 할 요소는 탐험과 활용의 균형(exploration vs. exploitation)이라고 생각합니다. 단기 보상에만 최적화된 에이전트는 지역 최적해(local optimum)에 갇히는 경향이 있어, 장기적으로 더 나은 전략을 발견하기 위한 탐험을 유지하는 것이 설계의 핵심입니다. 학교 강화학습 수업에서 신용 할당 문제(credit assignment problem)를 배웠는데, 최종 보상이 어느 행동 때문에 발생했는지 역추적하는 것이 장기 추론에서 특히 어렵다는 것이 인상적이었습니다. 또 보상 함수 설계가 에이전트 행동 전체를 결정하기 때문에, 잘못된 보상 함수는 보상 해킹(reward hacking) 같은 의도치 않은 행동을 만든다는 것도 배웠습니다. 이 분야는 시뮬레이션 환경과 실제 환경의 sim-to-real 전이 문제도 핵심 연구 과제라고 이해하고 있습니다.