AIㆍML / 데이터센터 / 클라우드

데이터센터가 AI의 전력 소비에 대비하는 8가지 방안

Andy Patrizio | Network World 2019.11.26


이 때문에 고집적 환경에는 공기 흐름을 통제하기 위해 HAC 시스템을 사용한다. 열복도의 끝에 문을 설치하고 위를 플라스틱판으로 덮는다. 열기는 천장의 흡입 파이프로 보내지고 장벽은 뜨거운 공기와 찬 공기가 섞이는 것을 막아준다.

새서는 “공랭식 서버 환경에는 HAC 시스템을 설치하라고 조언한다”라며, “또 다른 조언은 데이터센터의 공기 흐름을 테스트하라는 것이다. 모델링은 많은 변수에 의존하고, 이들 변수는 쉽게 변한다”라고 덧붙였다.

6. 굴뚝 캐비닛 

데이터센터의 온도를 관리하는 데 도움이 되는 또 하나의 방법은 굴뚝 캐비닛을 사용하는 것이다. 뜨거운 공기를 뒷면으로 배출하는 것이 아니라 대류 현상이라는 오래된 물리학을 이용해 굴뚝으로 배출한다. 새서는 “공기의 경로를 제한할 수 있다”며, “공기의 경로를 더 제한하면, HAC 시스템으로 더 많은 서버를 집적할 수 있다”고 설명했다.
 

7. 데이터를 저장 위치에서 처리

데이터를 옮기는 것은 전력이 많이 드는 일이다. 콘웨이는 데이터를 처리하는 것보다 데이터를 옮기는 데 최대 100배나 많은 전력이 소비된다고 지적했다. 어떤 형태든 데이터를 옮기는 데는 전력이 소비되며, 데이터 규모에 따라 전력 소비도 증가한다. 이는 데이터 집약적인 AI 애플리케이션에는 큰 문제이다. 할 수 있는 한 적은 데이터를 가장 짧은 거리로 이전하는 것이 최선이다.

콘웨이는 “절대적으로 필요할 때가 아니면 데이터를 더는 옮기지 않도록 하는 것이 해법이다. 그래서 데이터를 처리하는 곳과 가까운 곳에 두려고 애를 쓴다. 클라우드 서비스 업체와 클라우드 사용 기업이 동의하는 한 가지는 대규모 데이터를 서드파티 클라우드로 이전하는 것은 합리적이지 않다는 것”이라고 설명했다
 

8. 데이터센터 공간 대여

AI를 구현하려는 기업 대부분은 데이터센터 운영업체로부터 데이터센터 공간을 임대한다. 고집적 AI 연산을 처리할 역량이 안되는 데이터센터 업체도 있지만, 일부 업체는 이런 수요에 대비해 AI용으로 고집적 환경의 일부를 제공할 수 있도록 전환했다.

홀리지는 “여러 서비스 업체를 거쳐야 할 수도 있지만, 데이터센터 운영 측면에서 여기에 드는 비용에 주목할 필요가 있다”고 지적했다. 서드파티 데이터센터 서비스 업체는 성장 가능성도 제공한다. 홀리지는 “유연한 임대는 자체 구축과 반대로 AI 비즈니스를 확장하고 성장시킬 수 있도록 해 준다”고 강조했다.
 

차세대 서버에 거는 기대

콘웨이는 현재의 슈퍼컴퓨팅은 그리 데이터 친화적이지 않다고 지적했다. 슈퍼컴퓨터가 점점 커지면서 설계도 점점 데이터 중심에서 벗어나고 있다. 결과적으로 더 많은 데이터를 이전하고 프로세서와 메모리, 스토리지 시스템 간에 더 많이 날라야 한다. 앞서 지적한 것처럼 이 방식은 데이터를 옮기는 데 많은 전력이 소모된다.

앞으로 등장할 엑사급 시스템은 데이터 이동과 관련된 더 많은 가속 기능과 더 강력한 상호연결 기능을 제공할 것이다. 그리고 GPU나 스토리지급 메모리(Storage Class Memory)처럼 슈퍼컴퓨터에서 시작된 많은 혁신 기술이 결국은 주류 서버에서도 구현될 것이다. 

미래의 서버는 또한 더 많은 이기종 칩 배치를 지원할 것이다. x86 CPU뿐만 아니라 GPU, FPGA, AI 가속 칩 등을 포함할 것이다. NVMe 패브릭, SCM 등의 고속 스토리지도 좀 더 저렴해진다. 앞으로 수년 동안 서버는 많은 변화를 겪을 것이며, 많은 발전이 기업의 AI 애플리케이션 환경에 혜택이 될 것이다.  edtior@itworld.co.kr

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.