2018.06.28

머신러닝 라이브러리, 텐서플로우의 이해

Serdar Yegulalp | InfoWorld
머신러닝은 복잡한 분야다. 그러나 구글 텐서플로우(TensorFlow)와 같은 머신러닝 프레임워크 덕분에 머신러닝 모델을 구현하는 과정은 예전만큼 복잡하거나 어렵지는 않다. 머신러닝 프레임워크는 데이터 획득, 모델 학습, 예측, 미래 결과 정제와 같은 과정을 쉽게 해준다.



구글 브레인 팀이 개발한 텐서플로우는 수치 계산과 대규모 머신러닝을 위한 오픈소스 라이브러리다. 텐서플로우는 다수의 머신러닝과 딥 러닝(신경망) 모델과 알고리즘을 결합해 공통 메타포를 통해 유용성을 높혔다. 파이썬(Python)을 사용, 프레임워크로 애플리케이션을 구축하기 위한 편리한 프론트 엔드 API를 제공하며 성능이 우수한 C++로 애플리케이션을 실행한다.

텐서플로우는 필기 숫자 판별, 이미지 인식, 단어 임베딩, 반복 신경망, 기계 번역을 위한 시퀀스 투 시퀀스 모델, 자연어 처리, PDE(편미분방정식) 기반 시뮬레이션 등을 위한 신경망을 학습, 실행할 수 있다. 무엇보다 좋은 점은 학습에 사용되는 것과 동일한 모델로 대규모 프로덕션 예측을 지원한다는 것이다.

모든 기기에서 파이썬으로 보여주는 텐서플로우
텐서플로우에서 개발자는 데이터가 그래프 또는 일련의 처리 노드를 통해 움직이는 방법을 기술하는 구조인 데이터 흐름(dataflow) 그래프를 만들 수 있다. 그래프의 각 노드는 수학적 연산을 나타내며, 노드 간의 각 연결 또는 가장자리는 다차원 데이터 배열, 또는 텐서(tensor)를 나타낸다.

텐서플로우는 프로그래머를 위한 이런 모든 기능을 파이썬 언어를 통해 제공한다. 파이썬은 배우고 다루기 쉬우며, 고차원 추상화 결합 방법을 편리하게 표현하는 방법을 제공한다. 텐서플로우의 노드와 텐서는 파이썬 개체이며 텐서플로우 애플리케이션은 그 자체가 파이썬 애플리케이션이다.

그러나 실제 계산 작업은 파이썬으로 수행되지 않는다. 텐서플로우를 통해 제공되는 변환 라이브러리는 고성능 C++ 바이너리로 작성된다. 파이썬은 각 조각 사이의 트래픽에 길을 안내하고 이를 연결하기 위한 고차원적 프로그래밍 추상화를 제공할 뿐이다.

텐서플로우 애플리케이션은 로컬 머신, 클라우드의 클러스터, iOS와 안드로이드 디바이스, CPU 또는 GPU 등 거의 모든 기기에서 실행이 가능하다. 구글 자체 클라우드를 사용한다면 구글의 맞춤형 텐서플로우 프로세싱 유닛(TPU) 실리콘에서 텐서플로우를 실행해 속도를 더 높일 수 있다. 텐서플로우에 의해 생성되는 모델은 거의 대부분의 기기에 배포되어 예측 수행을 위해 사용할 수 있다.

텐서플로우의 이점, '추상화'
텐서플로우가 머신러닝 개발에서 제공하는 가장 큰 이점은 추상화(abstraction)다. 알고리즘 구현의 세부적인 면에 신경을 쓰거나 한 함수의 출력을 다른 함수의 입력으로 집어넣기 위한 적절한 방법을 알아내느라 고심할 필요 없이 개발자는 애플리케이션의 전체적인 논리에만 집중할 수 있다. 배후의 세세한 부분은 텐서플로우가 알아서 처리해준다.

텐서플로우는 텐서플로우 앱을 디버그하고 내부를 살펴봐야 하는 개발자를 위한 부가적인 편의 기능도 제공한다. 즉시 실행(eager execution) 모드를 사용하면 전체 그래프를 하나의 불투명한 개체로 구축해서 한꺼번에 평가하는 대신 각 그래프 연산을 개별적으로, 투명하게 평가하고 수정할 수 있다. 텐서보드(TensorBoard) 시각화 도구 모음은 웹 기반의 대화형 대시보드를 통해 그래프 실행 방법을 검사하고 프로파일링할 수 있게 해준다.

물론 구글의 최상위 상용 제품도 텐서플로우의 든든한 지원군 역할을 한다. 구글은 텐서플로우 프로젝트의 빠른 개발을 촉진했을 뿐만 아니라 텐서플로우를 보다 쉽게 배포하고 사용할 수 있게 해주는 여러 가지 중요한 요소를 만들었다. 구글 클라우드에서 성능 가속을 위한 앞서 언급한 TPU 실리콘, 프레임워크로 만들어진 모델을 공유하기 위한 온라인 허브, 브라우저 및 모바일 텐서플로우 버전 등이 대표적인 예이며 그 외에도 많다.

한 가지 주의해야 할 부분은 텐서플로우 구현의 몇 가지 특성으로 일부 학습에서 완전히 결정론적인(deterministic) 모델 학습 결과를 얻기가 어렵다는 점이다. 똑 같은 데이터를 공급하더라도 한 시스템에서 학습된 모델과 다른 시스템에서 학습된 모델이 약간 다를 수 있다. 정확한 이유를 파악하기는 어렵다.

예를 들어 난수가 시드로 투입된 방법이나 위치, GPU를 사용할 때 비결정론적인 특정 동작이 이유가 될 수 있다. 그러나 이러한 문제를 피해갈 수 있는 방법이 있으며, 텐서플로우 팀에서도 워크플로의 결정론에 영향을 미치는 더 세부적인 제어 기능을 연구 중이다.

텐서플로우와 경쟁 프레임워크 비교
텐서플로우는 여러 머신러닝 프레임워크와 경쟁한다. 파이토치(PyTorch), CNTK, MXNet은 텐서플로우와 상당 부분 용도가 비슷한 주요 경쟁 프레임워크다. 필자가 생각한 텐서플로우와 비교한 각 프레임워크의 장단점은 다음과 같다.

- 파이토치(PyTorch): 파이썬으로 구축된다는 점 외에도 텐서플로우와 유사한 부분이 많다. 하드웨어 가속 구성 요소, 진행하면서 설계가 가능한 고도의 대화형 개발 모델, 그 외의 많은 유용한 구성 요소가 기본적으로 포함된다. 파이토치는 일반적으로 단시간 내에 실행해야 하는 빠른 프로젝트 개발에 더 유리하지만 큰 프로젝트와 복잡한 워크플로에서는 텐서플로우가 더 적합하다.

- CNTK: 마이크로소프트 코그니티브 툴킷(Cognitive Toolkit)은 텐서플로우와 마찬가지로 그래프 구조를 사용해 데이터 흐름을 기술하지만 딥 러닝 신경망을 만드는 데 초점을 둔다. CNTK는 여러 가지 신경망 작업을 더 빠르게 처리하며 폭넓은 API를 보유하고 있다(파이썬, C++, C#, 자바). 그러나 현재 CNTK는 텐서플로우만큼 배우고 배포하기가 쉽지는 않다.

- 아파치(Apache) MXNet: 아마존이 AWS의 고급 딥 러닝 프레임워크로 채택했으며 복수의 GPU와 머신에 걸쳐 거의 선형적으로 확장이 가능하다. 또한 파이썬, C++, 스칼라, R, 자바스크립트, 줄리아, 펄, 고 등 폭넓은 언어 API를 지원한다. 다만 네이티브 API의 사용편의성은 텐서플로우에 비해 떨어진다. editor@itworld.co.kr  


2018.06.28

머신러닝 라이브러리, 텐서플로우의 이해

Serdar Yegulalp | InfoWorld
머신러닝은 복잡한 분야다. 그러나 구글 텐서플로우(TensorFlow)와 같은 머신러닝 프레임워크 덕분에 머신러닝 모델을 구현하는 과정은 예전만큼 복잡하거나 어렵지는 않다. 머신러닝 프레임워크는 데이터 획득, 모델 학습, 예측, 미래 결과 정제와 같은 과정을 쉽게 해준다.



구글 브레인 팀이 개발한 텐서플로우는 수치 계산과 대규모 머신러닝을 위한 오픈소스 라이브러리다. 텐서플로우는 다수의 머신러닝과 딥 러닝(신경망) 모델과 알고리즘을 결합해 공통 메타포를 통해 유용성을 높혔다. 파이썬(Python)을 사용, 프레임워크로 애플리케이션을 구축하기 위한 편리한 프론트 엔드 API를 제공하며 성능이 우수한 C++로 애플리케이션을 실행한다.

텐서플로우는 필기 숫자 판별, 이미지 인식, 단어 임베딩, 반복 신경망, 기계 번역을 위한 시퀀스 투 시퀀스 모델, 자연어 처리, PDE(편미분방정식) 기반 시뮬레이션 등을 위한 신경망을 학습, 실행할 수 있다. 무엇보다 좋은 점은 학습에 사용되는 것과 동일한 모델로 대규모 프로덕션 예측을 지원한다는 것이다.

모든 기기에서 파이썬으로 보여주는 텐서플로우
텐서플로우에서 개발자는 데이터가 그래프 또는 일련의 처리 노드를 통해 움직이는 방법을 기술하는 구조인 데이터 흐름(dataflow) 그래프를 만들 수 있다. 그래프의 각 노드는 수학적 연산을 나타내며, 노드 간의 각 연결 또는 가장자리는 다차원 데이터 배열, 또는 텐서(tensor)를 나타낸다.

텐서플로우는 프로그래머를 위한 이런 모든 기능을 파이썬 언어를 통해 제공한다. 파이썬은 배우고 다루기 쉬우며, 고차원 추상화 결합 방법을 편리하게 표현하는 방법을 제공한다. 텐서플로우의 노드와 텐서는 파이썬 개체이며 텐서플로우 애플리케이션은 그 자체가 파이썬 애플리케이션이다.

그러나 실제 계산 작업은 파이썬으로 수행되지 않는다. 텐서플로우를 통해 제공되는 변환 라이브러리는 고성능 C++ 바이너리로 작성된다. 파이썬은 각 조각 사이의 트래픽에 길을 안내하고 이를 연결하기 위한 고차원적 프로그래밍 추상화를 제공할 뿐이다.

텐서플로우 애플리케이션은 로컬 머신, 클라우드의 클러스터, iOS와 안드로이드 디바이스, CPU 또는 GPU 등 거의 모든 기기에서 실행이 가능하다. 구글 자체 클라우드를 사용한다면 구글의 맞춤형 텐서플로우 프로세싱 유닛(TPU) 실리콘에서 텐서플로우를 실행해 속도를 더 높일 수 있다. 텐서플로우에 의해 생성되는 모델은 거의 대부분의 기기에 배포되어 예측 수행을 위해 사용할 수 있다.

텐서플로우의 이점, '추상화'
텐서플로우가 머신러닝 개발에서 제공하는 가장 큰 이점은 추상화(abstraction)다. 알고리즘 구현의 세부적인 면에 신경을 쓰거나 한 함수의 출력을 다른 함수의 입력으로 집어넣기 위한 적절한 방법을 알아내느라 고심할 필요 없이 개발자는 애플리케이션의 전체적인 논리에만 집중할 수 있다. 배후의 세세한 부분은 텐서플로우가 알아서 처리해준다.

텐서플로우는 텐서플로우 앱을 디버그하고 내부를 살펴봐야 하는 개발자를 위한 부가적인 편의 기능도 제공한다. 즉시 실행(eager execution) 모드를 사용하면 전체 그래프를 하나의 불투명한 개체로 구축해서 한꺼번에 평가하는 대신 각 그래프 연산을 개별적으로, 투명하게 평가하고 수정할 수 있다. 텐서보드(TensorBoard) 시각화 도구 모음은 웹 기반의 대화형 대시보드를 통해 그래프 실행 방법을 검사하고 프로파일링할 수 있게 해준다.

물론 구글의 최상위 상용 제품도 텐서플로우의 든든한 지원군 역할을 한다. 구글은 텐서플로우 프로젝트의 빠른 개발을 촉진했을 뿐만 아니라 텐서플로우를 보다 쉽게 배포하고 사용할 수 있게 해주는 여러 가지 중요한 요소를 만들었다. 구글 클라우드에서 성능 가속을 위한 앞서 언급한 TPU 실리콘, 프레임워크로 만들어진 모델을 공유하기 위한 온라인 허브, 브라우저 및 모바일 텐서플로우 버전 등이 대표적인 예이며 그 외에도 많다.

한 가지 주의해야 할 부분은 텐서플로우 구현의 몇 가지 특성으로 일부 학습에서 완전히 결정론적인(deterministic) 모델 학습 결과를 얻기가 어렵다는 점이다. 똑 같은 데이터를 공급하더라도 한 시스템에서 학습된 모델과 다른 시스템에서 학습된 모델이 약간 다를 수 있다. 정확한 이유를 파악하기는 어렵다.

예를 들어 난수가 시드로 투입된 방법이나 위치, GPU를 사용할 때 비결정론적인 특정 동작이 이유가 될 수 있다. 그러나 이러한 문제를 피해갈 수 있는 방법이 있으며, 텐서플로우 팀에서도 워크플로의 결정론에 영향을 미치는 더 세부적인 제어 기능을 연구 중이다.

텐서플로우와 경쟁 프레임워크 비교
텐서플로우는 여러 머신러닝 프레임워크와 경쟁한다. 파이토치(PyTorch), CNTK, MXNet은 텐서플로우와 상당 부분 용도가 비슷한 주요 경쟁 프레임워크다. 필자가 생각한 텐서플로우와 비교한 각 프레임워크의 장단점은 다음과 같다.

- 파이토치(PyTorch): 파이썬으로 구축된다는 점 외에도 텐서플로우와 유사한 부분이 많다. 하드웨어 가속 구성 요소, 진행하면서 설계가 가능한 고도의 대화형 개발 모델, 그 외의 많은 유용한 구성 요소가 기본적으로 포함된다. 파이토치는 일반적으로 단시간 내에 실행해야 하는 빠른 프로젝트 개발에 더 유리하지만 큰 프로젝트와 복잡한 워크플로에서는 텐서플로우가 더 적합하다.

- CNTK: 마이크로소프트 코그니티브 툴킷(Cognitive Toolkit)은 텐서플로우와 마찬가지로 그래프 구조를 사용해 데이터 흐름을 기술하지만 딥 러닝 신경망을 만드는 데 초점을 둔다. CNTK는 여러 가지 신경망 작업을 더 빠르게 처리하며 폭넓은 API를 보유하고 있다(파이썬, C++, C#, 자바). 그러나 현재 CNTK는 텐서플로우만큼 배우고 배포하기가 쉽지는 않다.

- 아파치(Apache) MXNet: 아마존이 AWS의 고급 딥 러닝 프레임워크로 채택했으며 복수의 GPU와 머신에 걸쳐 거의 선형적으로 확장이 가능하다. 또한 파이썬, C++, 스칼라, R, 자바스크립트, 줄리아, 펄, 고 등 폭넓은 언어 API를 지원한다. 다만 네이티브 API의 사용편의성은 텐서플로우에 비해 떨어진다. editor@itworld.co.kr  


X