강화학습 정책 연구에서 sim-to-real gap 극복 과정과 수치 결과를 짚은 결
인턴 프로젝트에서 강화학습 기반 로봇 팔 제어 정책 학습을 진행했습니다. PPO 알고리즘으로 시뮬레이터 검증을 먼저 마쳤는데, 실제 하드웨어에 올리자 sim-to-real gap 때문에 동작이 계속 흔들렸습니다. 마찰 계수와 센서 지연이 시뮬레이터 가정과 크게 달랐던 게 원인이었고, 도메인 랜덤화를 적용해 해당 파라미터를 훈련 중에 무작위로 변동시키는 방식으로 전환했습니다. 이후 목표 위치 오차가 58% 감소했고 연속 50회 성공률도 43%에서 79%로 올랐습니다. 이 경험으로 실험 재현성을 위해 난수 시드와 환경 파라미터를 매번 로그에 기록하는 것이 연구 관리의 시작임을 몸으로 익혔습니다.