Hadoop과 HBase 기반의 빅 데이터 처리 응용을 위한 가상 컴퓨팅 자원 이용률 분석 (An Analysis of Utilization on Virtualized Computing Resource for Hadoop and HBase based Big Data Processing Applications)

서지정보

· 발행기관 : 한국엔터프라이즈아키텍처학회
· 수록지 정보 : 정보화연구 / 11권 / 4호 / 449 ~ 462페이지
· 저자명 : 조나연, 구민오, 김바울, 예쉬화, 민덕기

초록

빅 데이터 시대에서 데이터를 획득하고 저장하며 실시간으로 유입되거나 저장 된 데이터를 분석하는 처리 시스템은 다양한 부분을 고려해야 한다. 기존의 데이터 처리 시스템들과는 상이하게 빅 데이터 처리 시스템들에서는 시스템 내에서 처리될 데이터들의 포맷, 유입 속도, 크기 등의 특성을 고려해야한다. 이러한 상황에서, 가상화된 컴퓨팅 플랫폼은 가상화 기술로써 컴퓨팅 자원들을 동적이고 신축적으로 관리할 수 있음에 따라, 빅 데이터를 효율적으로 처리하기 위해 급부상하고 있는 플랫폼 중 하나이다. 본 논문에서는 가상화 된 컴퓨팅 플랫폼 상에서 Apache Hadoop과 HBase 기반의 빅 데이터처리 미들웨어를 구동하기 위하여 적합한 배포 모델을 위한 가상 컴퓨팅 자원 이용률을 분석하였다. 본연구 결과, Task Tracker 서비스는 처리 중 높은 CPU 자원 활용율과 중간 결과물 저장 시점에서는비교적 높은 디스크 I/O 사용을 보였다. 또한 HRegion 서비스의 경우, DataNode와의 데이터 교환을위한 네트워크 자원 활용 비율이 높았으며, DataNode 서비스는 I/O 집약적인 처리 패턴을 보였다.

영어초록

In big data era, there are a number of considerable parts in processing systems for capturing,storing, and analyzing stored or streaming data. Unlike traditional data handling systems,a big data processing system needs to concern the characteristics (format, velocity, and volume) ofbeing handled data in the system. In this situation, virtualized computing platform is an emergingplatform for handling big data effectively, since virtualization technology enables to manage computingresources dynamically and elastically with minimum efforts. In this paper, we analyzeresource utilization of virtualized computing resources to discover suitable deployment models inApache Hadoop and HBase-based big data processing environment. Consequently, Task Trackerservice shows high CPU utilization and high Disk I/O overhead during MapReduce phases. Moreover,HRegion service indicates high network resource consumption for transfer the traffic datafrom DataNode to Task Tracker. DataNode shows high memory resource utilization and Disk I/Ooverhead for reading stored data.

참고자료

· 없음