경험 기반 구체화
강화학습 알고리즘을 실제 서비스에 적용한 경험은 없지만, 학교 강화학습 수업에서 OpenAI Gym 환경 기반으로 DQN 알고리즘을 구현하는 실습을 했습니다. CartPole 문제를 통해 Q-값 함수 근사와 경험 재생(Experience Replay) 메커니즘이 학습 안정성에 얼마나 중요한지를 직접 실험했습니다. 실제 서비스에 강화학습을 적용할 때 가장 어려운 점은 보상 함수 설계라고 배웠는데, 잘못 설계된 보상은 단기 지표를 최적화하면서 장기 비즈니스 목표를 해치는 방향으로 수렴할 수 있습니다. 또 시뮬레이션에서 학습한 정책이 실제 환경에서 성능이 떨어지는 sim-to-real 문제도 해결해야 할 과제라는 것을 배웠습니다.
안전 제약 조건(safety constraint)이 있는 실제 환경에서는 탐험 과정의 리스크를 제한하는 설계가 중요하다고 생각합니다.