'머신러닝을 더 빠르게' 구글의 새로운 칩, 텐서 프로세싱 유닛
Credit : Google
구글은 맞춤 제작한 칩을 1년 이상 사용해 머신러닝 시스템 속도가 크게 개선됐다고 밝혔다.
최근 몇 년 동안 일부 구인 광고를 통해 구글이 직접 칩을 설계하려 한다는 소문이 있었다. 하지만 현재까지 구글은 주로 노트북용 칩을 개발하려 하는 것으로 알려졌다.
구글은 이 칩을 텐서 프로세싱 유닛(TPU)이라고 이름지었다. TPU는 구글이 머신러닝 프로그램에 사용한 텐서플로우 소프트웨어의 이름을 따서 만들어진 것이다. 이 회사 블로그 게시물에서 구글 엔지니어 놈 조피는 TPU가 특정 업무 속도를 높여준다는 의미로 '가속기 칩'이라고 전했다.
18일 I/O 컨퍼런스에서 CEO 순다 피차이는 TPU가 머신러닝 업무용 기존 칩보다 와트당 더 나은 성능을 엄청난 규모로 제공한다고 밝혔다. TPU가 CPU와 GPU를 대체하지 않겠지만, 더 많은 에너지를 소비하지 않고 머신러닝을 빠르게 처리할 수 있다고.
머신러닝이 음성 인식부터 언어 번역과 데이터 분석까지 다양한 분야에서 쓰이면서 이러한 워크로드의 속도를 높여주는 칩이 있다는 것은 기술 발전의 선두 자리를 유지하는데 매우 중요하다.
각각의 새로운 프로세서 생산에서 얻는 이익이 줄어들면서 핵심 업무용 가속기를 사용하는 것이 훨씬 더 중요해졌다. 구글은 이 TPU가 3세대 또는 약 7년에 해당하는 무어의 법칙과 동등한 혜택을 제공한다고 말했다.
TPU는 랭크브레인(RankBrain) 검색 결과 분류 시스템과 구글의 음성 인식 서비스를 제공하는 등 구글 클라우드 전체에서 쓰이고 있다. 개발자가 구글의 음성 인식 서비스를 이용하면서 돈을 지불하는 것은 이들은 TPU를 사용하기 때문이다.
구글의 기술 인프라 담당 수석 부사장인 우르스 휄즐은 I/O 컨퍼런스 기자 회견에서 TPU가 머신러닝 과정을 개선할 수 있지만 CPU와 GPU가 있어야 하는 기능이 아직 있다고 말했다.
휄즐에 따르면 구글은 약 2년 전에 TPU 개발을 시작했다.
현재 구글이 사용중인 칩은 수천 개에 달한다. 이것들은 구글의 데이터센터 랙에 있는 하드 드라이브에 쓰이는 같은 슬롯에 딱 맞출 수 있다. 이는 구글이 필요할 때 훨씬 더 많은 칩을 쉽게 설치할 수 있다는 의미다.
하지만 휄즐은 지금 당장 모든 랙에 TPU가 필요한 것은 아니라고 밝혔다.
구글이 하지 않을 명확한 한 가지가 있다면, 그것은 독립형 하드웨어로의 TPU를 판매하는 일이다. 그럴 가능성에 대한 질문에서 구글의 기업 담당 최고 책임자인 다이앤 그린은 "이를 다른 기업이 사용하도록 판매할 계획은 없다"고 답했다.
이러한 애플리케이션 개발 방향이 필요한 한 가지 이유는 개발자가 클라우드에서만 점점 더 많은 애플리케이션을 개발하고 있고, 하드웨어 구성, 유지보수, 업데이트 관리에 대해서는 걱정하고 싶어하지 않기 때문이다.
또 다른 이유는 구글이 많은 시간과 돈을 들여 칩을 개발했는데 이 칩에 관한 접근권한을 경쟁사에게 주고 싶어 하지 않기 때문이다.
아직 TPU가 정확히 어디에 가장 잘 쓰일 지는 알려지지 않았다. 분석가 패트릭 무어헤드는 이 칩이 추론 가능한 많은 유연성이 필요하지 않는 머신러닝 업무의 일부에 사용될 것으로 전망했다.
이는 현재까지 구글이 밝힌 전부이기도 하다. 여전히 어떤 칩 제조사가 구글을 위해 실리콘을 개발 중인지 알려지지 않았다. 휄즐은 구글이 올가을 출시되는 종이 칩에 관한 훨씬 더 자세한 내용을 공개할 것이라고 말했다. ciokr@idg.co.kr