AIㆍML / 개발자

머신러닝 라이브러리 대표주자, 텐서플로우의 이해

Serdar Yegulalp | InfoWorld 2022.06.09
머신러닝은 복잡한 분야지만 머신러닝 모델을 구현하는 과정은 데이터 수집, 모델 교육, 예측 수행, 이후 결과 조정 과정을 쉽게 해주는 구글 텐서플로우(TensorFlow)와 같은 머신러닝 프레임워크 덕분에 과거에 비해 훨씬 더 간편해졌다.
 
ⓒ Getty Images Bank

구글 브레인(Brain) 팀이 개발해 2015년에 처음 공개한 텐서플로우는 수치 계산과 대규모 머신러닝을 위한 오픈소스 라이브러리다. 텐서플로우는 다양한 머신러닝 및 딥러닝 모델과 알고리즘(신경망)을 묶어 공통 프로그래밍 메타포를 통해 사용할 수 있도록 한다. 파이썬 또는 자바스크립트를 사용해 애플리케이션을 구축하기 위한 편리한 프론트엔드 API를 제공하며 애플리케이션을 실행하는 데는 고성능 C++를 사용한다.

파이토치(PyTorch), 아파치 MX넷(MXNet) 등의 프레임워크와 경쟁하는 텐서플로우는 수기 숫자 분류, 이미지 인식, 단어 임베딩, 순환 신경망, 기계 번역을 위한 시퀀스-시퀀스 모델, 자연어 처리 및 편미분방정식(PDE)을 위한 심층 신경망을 학습시키고 실행할 수 있다. 무엇보다 텐서플로우는 학습에 사용한 것과 같은 모델로 대규모 프로덕션 예측을 지원한다. 또한 텐서플로우에는 프로젝트에 사용 가능한 사전 학습된 모델 라이브러리가 풍부하다. 텐서플로우 모델 가든(Model Garden)의 코드를 모델 학습 예제로 사용할 수도 있다.
 

텐서플로우의 작동 방식

텐서플로우에서 개발자는 데이터가 그래프 또는 일련의 처리 노드를 어떻게 이동하는지를 설명하는 구조인 데이터플로우 그래프를 만들 수 있다. 그래프의 각 노드는 수학 연산을 나타내며 노드 간의 각 연결 또는 가장자리가 바로 다차원 데이터 배열 즉 텐서(tensor)다.

텐서플로우 애플리케이션은 로컬 머신, 클라우드의 클러스터, iOS, 안드로이드 기기, CPU, GPU 등 거의 모든 타깃에서 실행이 가능하다. 구글 클라우드를 사용한다면 구글의 맞춤형 텐서플로우 프로세싱 유닛(TPU) 실리콘에서 텐서플로우를 실행해 더 빠른 속도를 얻을 수 있다. 텐서플로우에 의해 생성된 결과 모델은 대부분 기기에 배포되어 예측 작업을 처리할 수 있다.

2019년 10월에 출시된 텐서플로우 2.0은 사용자 의견을 바탕으로 많은 부분을 개선해 작업을 더 용이하게 했고 성능도 더 높였다. 모델 학습에 비교적 단순한 케라스(Keras) API 사용한 것이 대표적이다. 또한, 새로운 API 덕분에 분산 학습이 더 쉬워졌고 텐서플로우 라이트(TensorFlow Lite)를 지원해 더 다양한 플랫폼에 모델을 배포할 수 있게 됐다. 단, 이전 버전의 텐서플로우용으로 작성된 코드에서 텐서플로우 2.0의 새로운 기능을 최대한 활용하려면 코드를 수정해야 하는데, 간단한 경우도 있지만 상당한 재작업이 필요한 경우도 있다.

학습된 모델은 REST 또는 gRPC API를 사용해 도커 컨테이너를 통해 서비스 형태로 예측을 수행하는 데 사용할 수 있다. 더 고급 예측 시나리오에서는 쿠버네티스를 사용할 수 있다.
 

파이썬으로 텐서플로우 사용하기

텐서플로우는 이러한 모든 기능을 파이썬 언어를 통해 프로그래머에게 제공한다. 파이썬은 배우고 다루기가 쉽고 고수준 추상화를 연결하는 방법을 편리하게 표현하는 방법을 제공한다. 텐서플로우는 파이썬 버전 3.7부터 3.10까지 지원된다. 그 이전 버전의 파이썬에서도 쓸 수는 있지만 동작을 보장하지는 않는다.

텐서플로우의 노드와 텐서는 파이썬 객체이며, 텐서플로우 애플리케이션 자체는 파이썬 애플리케이션이다. 다만 실제 수학 연산은 파이썬으로 수행하지 않는다. 텐서플로우를 통해 사용 가능한 변환 라이브러리는 고성능 C++ 바이너리로 작성된다. 파이썬은 각 조각 사이에서 트래픽을 전달하고 연결하기 위한 고수준 프로그래밍 추상화를 제공하는 역할만 한다.

텐서플로우의 고수준 작업(노드와 레이어를 만들고 연결하기)은 케라스 라이브러리를 사용한다. 케라스 API는 표면적으로는 단순하다. 10줄 미만의 코드로 3개의 레이어가 있는 기본 모델을 정의할 수 있으며, 같은 모델을 위한 학습 코드도 여기서 몇 줄만 더 추가하면 된다. 또한 학습 루프를 직접 작성하는 등 더 세부적으로 작업하는 것도 가능하다.
 

자바스크립트로 텐서플로우 사용하기

텐서플로우와 전반적인 머신러닝 작업에서 가장 많이 사용되는 언어는 파이썬이지만 자바스크립트도 텐서플로우를 위한 주요 언어이며, 웹 브라우저가 있는 곳이라면 어디에서나 실행이 가능하다는 큰 장점이 있다.

자바스크립트 텐서플로우 라이브러리인 TensorFlow.js는 웹GL API를 사용해 시스템의 가용 GPU를 통해 계산 속도를 높인다. 또한 실행에 웹어셈블리 백엔드를 사용할 수 있으며, CPU에서만 실행할 경우 일반적인 자바스크립트 백엔드에 비해 더 빠르다. 따라서 가능하다면 GPU를 사용하는 것이 최선이다. 사전 구축된 모델을 사용하면 간단한 프로젝트를 실행하면서 기본적인 개념을 익힐 수 있다.
 

텐서플로우 라이트

학습된 텐서플로우 모델은 엣지 컴퓨팅 또는 iOS나 안드로이드 시스템과 같은 모바일 기기에도 배포할 수 있다. 텐서플로우 라이트 툴셋은 모델 크기와 정확도를 타협해 이와 같은 기기에서 원활하게 실행되도록 텐서플로우 모델을 최적화한다. 25MB 또는 100MB 이상 크기 대비 작은 12MB의 상대적으로 작은 모델은 정확도가 떨어지지만 손실 정도는 일반적으로 미미하고 모델의 속도와 에너지 효율성 측면의 단점을 상쇄한다.
 

텐서플로우를 사용하는 이유

머신러닝 개발에서 텐서플로우의 가장 큰 이점은 추상화다. 개발자는 알고리즘 구현을 위한 세부 사항을 일일이 처리하거나 한 함수의 출력을 다른 함수의 입력으로 넘기는 적절한 방법을 알아내느라 고생할 필요 없이 전체적인 애플리케이션 로직에만 집중할 수 있다. 세부적인 부분은 텐서플로우가 알아서 처리해준다.

텐서플로우 앱을 디버그하고 조사해야 하는 개발자를 위한 부가적인 편의 기능도 제공한다. 전체 그래프를 하나의 불투명한 객체로 구성해 한꺼번에 평가하는 것이 아니라 각 그래프 연산을 개별적으로 투명하게 평가하고 수정할 수 있다. '빠른 실행 모드(eager execution mode)'라고 하는 이 기능은 이전 버전의 텐서플로우에서는 옵션이었지만 지금은 표준으로 제공된다.

텐서보드(TensorBoard) 시각화 제품군을 이용하면 인터랙티브한 웹 기반 대시보드를 통해 그래프 실행을 검사, 프로파일링할 수 있다. 텐서플로우에 만들어진 머신러닝 작업을 구글이 호스팅하는 Tensorboard.dev 서비스에서 호스팅하고 공유할 수 있다. 최대 100M 스칼라 저장 공간과 1GB의 텐서 데이터, 1GB의 바이너리 객체 데이터까지 무료로 사용할 수 있다. 단, Tensorboard.dev에 호스팅되는 모든 데이터는 공개되므로 민감한 프로젝트에는 적합하지 않다.

텐서플로우에는 구글 최상급 상용 제품의 지원을 통한 이점도 많다. 구글은 텐서플로우의 빠른 개발을 위해 투자해왔고, 텐서플로우를 더 쉽게 사용, 배포할 수 있는 많은 제품을 만들었다. 앞서 언급한 구글 클라우드에서의 가속을 위한 TPU 실리콘이 대표적인 사례다.
 

텐서플로우를 사용한 결정론적 모델 학습

텐서플로우 구현에는 일부 학습 작업에서 완전히 결정론적인 모델 학습 결과를 얻기 어렵게 하는 특성이 몇 가지 있다. 똑같은 데이터를 사용해도 한 시스템에서 학습된 모델이 다른 시스템에서 학습된 모델과 다른 경우가 간혹 있다.

이와 같은 변동성의 이유는 여러 가지다. 한 가지는 무작위 숫자의 시드 방식과 위치이고 또 다른 이유는 GPU를 사용할 때의 특정 비결정론적 동작과 관계된다. 텐서플로우의 2.0 분기에는 몇 줄의 코드로 전체 워크플로우에 걸쳐 결정성을 활성화하는 옵션이 있다. 그러나 이 기능은 성능 하락이라는 대가가 따르므로 워크플로우를 디버깅할 때만 사용하는 것이 좋다.
 

텐서플로우 vs. 파이토치, CNTK, MX넷

텐서플로우 외에도 다양한 머신러닝 프레임워크가 있다. 이 중에서 텐서플로우와 많은 부분에서 겹치는 것이 파이토치, CNTK, MX넷이다. 텐서플로우와 비교해 어떤 장단점이 있는지 살펴보자.
 
  • 파이토치는 파이썬으로 만들어졌으며 내부의 하드웨어 가속 구성요소, 유연한 설계가 가능한 고도의 인터랙티브 개발 모델, 기본적으로 포함된 많은 유용한 구성요소 등 텐서플로우와 비슷한 점이 많다. 파이토치는 단기간 내에 가동해야 하는 빠른 프로젝트 개발에서 일반적으로 더 나은 선택이지만 규모가 큰 프로젝트와 복잡한 워크플로우에서는 텐서플로우가 더 낫다.
  • CNTK는 마이크로소프트 코그니티브 툴킷(Microsoft Cognitive Toolkit)으로, 그래프 구조를 사용해 데이터플로우를 설명한다는 점에서 텐서플로우와 비슷하지만 딥러닝 신경망을 만드는 데 초점을 둔다. CNTK는 많은 신경망 작업을 빠르게 처리하며 파이썬, C++, C#, 자바 등 API가 광범위하다. 그러나 CNTK는 텐서플로우에 비하면 배우고 배포하기가 쉽지 않고 GNU GPL 3.0 라이선스로만 제공된다. 텐서플로우의 경우 더 자유로운 아파치 라이선스로 제공된다. 또한 CNTK는 개발이 활발한 편은 아니어서, 2019년을 마지막으로 아직 주 버전 릴리스가 없다.
  • 아파치 MX넷은 아마존이 AWS에서의 고급 딥러닝 프레임워크를 위해 채택한 프레임워크로, 여러 GPU와 시스템에 걸쳐 거의 선형적인 확장이 가능하다. 또한 MX넷은 파이썬, C++, 스칼라, R, 자바스크립트, 줄리아, 펄, 고 등 다양한 언어 API를 지원한다. 다만 네이티브 API는 텐서플로우에 비해 사용하기가 불편하다. 또한 사용자 및 개발자 커뮤니티의 규모도 텐서플로우보다 훨씬 작다.

editor@itworld.co.kr

회사명 : 한국IDG | 제호: ITWorld | 주소 : 서울시 중구 세종대로 23, 4층 우)04512
| 등록번호 : 서울 아00743 등록발행일자 : 2009년 01월 19일

발행인 : 박형미 | 편집인 : 박재곤 | 청소년보호책임자 : 한정규
| 사업자 등록번호 : 214-87-22467 Tel : 02-558-6950

Copyright © 2024 International Data Group. All rights reserved.