PyTorch 직접 구현 경험에서 시작해 arXiv 루틴까지
제가 직접 써본 AI·ML 도구를 정리하면, 학습 프레임워크는 PyTorch를 주로 씁니다. 프로젝트에서 이미지 분류 모델을 만들면서 처음 접했고, 역전파와 옵티마이저 흐름을 직접 구현하면서 이해가 깊어졌습니다. 데이터 전처리는 pandas와 scikit-learn을 주로 쓰고, 실험 관리는 MLflow를 써봤습니다. 깊이 측면에서는 논문을 읽고 구현해본 수준은 Transformer 아키텍처까지이고, 최신 LLM 내부 구조는 이론으로만 압니다.
지속적으로 따라가려고 매주 arXiv에 올라오는 논문 제목을 훑고, 관심 있는 것은 직접 실험해보는 방식을 쓰고 있습니다. 한계는 대규모 분산 학습 환경은 경험이 없고, GPU 여러 대를 묶어 학습하는 부분은 아직 이론 수준입니다.