데이터 엔지니어링 수업에서 Hadoop 개념 실습
데이터 엔지니어링 수업에서 Hadoop 기반의 분산 처리 개념을 배우고 소규모 실습을 했습니다. HDFS에 파일을 올리고 MapReduce로 단어 수를 세는 기초 예제였는데, 처음에 Java 환경 설정이 안 돼서 실습 환경 자체를 준비하는 데 2시간을 썼습니다. 이후 팀원과 역할을 나눠서 처리 결과를 확인했고, 분산 처리가 단일 서버보다 왜 빠른지를 직접 비교해보는 경험을 했습니다. 교수님이 '실무에서는 Impala 같은 쿼리 엔진으로 HDFS 데이터를 조회한다'고 하셔서 Impala가 어떤 역할인지도 이해하게 됐습니다. Hadoop 기반 시스템을 실무에서 써본 건 아니지만, 이 수업을 통해 분산 데이터 시스템의 기본 구조를 이해했습니다.