개발자 / 데이터ㆍ분석

최악의 빅데이터 프랙티스 10가지

Andrew Oliver | InfoWorld 2014.07.21


6. HBase를 RDBMS처럼 다루기
사람들은 하둡에 대해 알아보다가 비로소 데이터베이스가 있음을 깨닫곤 한다. 카산드라(Cassandra)를 찾을 수도 있지만 대부분의 경우 HBase를 발견하게 된다. 휴...데이터베이스가 있다면, 그렇게 힘들게 애쓰지 않아도 된다! 장담컨대, HDFS+하이브는 뇌를 그다지 혹사시키지 않는다(IANAD).

HBase와 RDBMS의 유일한 공통점은 둘 다 테이블과 비슷한 무언가를 갖고 있다는 점이다. RDBMS로는 해결하기 어려운 일을 HBase로 거뜬히 할 수 있고, 그 반대의 경우도 있다. HBase는 HBase가 적합한 용도에 유용하지만 그 외에는 대부분 별 쓸모가 없다. 전체 RDBMS 스키마를 있는 그대로 HBase에 표현하려고 시도했다간 머리가 타는 듯한 두통을 느끼게 될 것이다.

7. 100개의 노드를 수동으로 설치하기
내일모레까지 100개의 노드에 하둡과 하둡의 모든 구성 요소를 수동으로 설치한다고? 수작업의 손맛이야말로 최고라 할 수 있지 않은가? 분명히 재미있는 일이다. 누군가 노드를 잃고 그것까지 수작업으로 처리할 때까지는 그렇게 느낄 수도 있다. 최소한 퍼펫(Puppet)을 사용하라. 사실 암바리(Ambari, 또는 사용 중인 배포판에서 이와 유사한 것)를 먼저 사용해야 한다.

8. 데이터 노드의 RAID/LVM/SAN/VM화
하둡은 여러 노드에 걸쳐 데이터 블록을 스트라이프하고, RAID는 이를 여러 디스크에 걸쳐 스트라이프한다. 이 둘을 합치면? 엄청난 지연과 열악한 성능의 향연이다. 이건 터덕킨(turducken)도 아니고, 칠면조 안에 칠면조를 넣고 굽는 것과 같은 짓이다. 마찬가지로 LVM은 내부 파일 시스템용으로 훌륭하다. 그러나 예를 들어 데이터 노드 몇 개를 추가하면 될 일을 두고 데이터 노드 100개의 크기를 더 늘리기로 결심하는 경우는 거의 없을 것이다.

그리고 모두가 좋아해 마지않는, I/O에 따라 좌우되는 SAN이 있다. 높은 순간 전송률을 위해 HDFS를 사용하면서, 다시 모든 것을 박스 안에 집어넣어 붙인다? 이 개념은 수평적 확장이다. 동일한 네트워크 파이프에 걸쳐, 동일한 디스크 박스로 어떻게 수평 확장하겠다는 말인가?

EMC는 앞으로 더욱 많은 SAN을 판매하겠지만 이제 그 틀을 벗어나 생각을 해봐야 한다. VM은 좋다. 그러나 최고의 성능에는 I/O가 핵심이다. 하둡의 이름 노드와 나머지 대부분을 가상화할 수 있지만 데이터 노드에 있어서는 베어메탈 이상은 없다. devops 도구를 통해 가상화의 이점을 거의 동일하게 얻을 수 있다. 심지어 클라우드 업체들도 대부분 메탈 옵션을 제공한다.

9. HDFS를 그저 파일 시스템으로 다루기
HDFS에 뭔가를 던져 넣는다고 해서 무조건 유리한 것은 아니다. 물론 HDFS 주변의 도구 사용은 중요하다. 하이브, 피그, 맵리듀스를 적용할 수 있지만 무엇을, 왜, 어디서 HDFS에 집어넣을 것인지에 대해 생각을 해야 한다. 이 모든 것들을 어떻게, 누구를 위해 보호할지 생각해야 한다.

10. 와, 멋지다!
다른 표현은 "오늘은 목요일이니까 스파크(Spark)로 가자". 물론 하둡은 성장하는 생태계이며, 사람들은 경쟁에서 앞서 나가고자 한다. 그 마음은 알지만 자유란 '더 이상 잃을 게 없음'의 또 다른 말이라는 점을 유의하라. 실제 데이터와 실제 사용자를 보유하게 되면 책임질 부분이 없었던 때와 같은 자유를 그대로 누릴 수는 없다. 이제는 계획이 필요하다.

다행히, 그 발전을 관리하고 책임감 있게 앞으로 전진하기 위한 도구가 있다. 갓 나온 새로운 기능을 곧바로 배포할 필요는 없지만 더 이상 하둡 1.1을 사용할 필요도 없다. 다른 모든 기술과 마찬가지로(또한 인생의 모든 것이 그렇듯이) 무리에서 맨 뒤에 처진 가젤, 또는 절벽에서 가장 먼저 떨어지는 레밍이 되지 않기 위한 적절한 방법을 찾아야 한다.  editor@itworld.co.kr

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.