2020.12.18

파이썬 코드 프로파일링에 유용한 라이브러리 5가지

Serdar Yegulalp | InfoWorld
모든 프로그래밍 언어에는 개발 속도와 실행 속도, 두 가지 종류의 속도가 있다. 파이썬은 항상 빠른 실행보다는 빠른 개발을 선호했다. 파이썬 코드의 실행 속도는 대부분 필요한 작업에 충분할 만큼 빠르지만 그렇지 않을 때도 종종 있다. 그런 경우가 발생한다면 속도가 저하되는 지점과 이유를 찾아 조치를 취해야 한다.
 
소프트웨어 개발, 그리고 전반적인 엔지니어링에서 유명한 격언으로, “짐작하지 말고 측정을 하라”는 말이 있다. 소프트웨어에서 무엇이 잘못되었는지 가정하기는 쉽지만 가정은 좋은 습관이 아니다. 애플리케이션 속도를 높이기 위한 최선의 일차적인 도구는 항상 실제 프로그램 성능에 대한 통계 수치다.
 
파이썬은 애플리케이션을 프로파일링하고 속도가 느린 부분을 알아내는 데 사용할 수 있는 풍부한 패키지를 제공한다. 표준 라이브러리에 포함된 간단한 한 줄짜리 툴부터 실행 중인 애플리케이션에서 통계 수치를 수집하기 위한 정교한 프레임워크에 이르기까지 종류도 다양하다. 이 기사에서는 그중에서 가장 유용한 5가지를 정리했다. 모두 크로스 플랫폼 툴이며 파이파이(PyPI) 또는 파이썬의 표준 라이브러리에서 바로 사용할 수 있다.
 

타임(Time)과 타임잇(Timeit)

스톱워치만으로 충분한 경우가 있다. 실행하는 데 몇 초 또는 몇 분이 걸리는 두 코드 스니펫 사이의 시간을 프로파일링하는 것이 목적이라면 스톱워치만으로 충분하다.
 
파이썬 표준 라이브러리에는 스톱워치 역할을 하는 두 가지 함수가 있다. 타임 모듈perf_counter 함수는 운영체제의 고분해능 타이머를 호출해서 임의의 타임스탬프를 구한다. 작업 전과 후에 한 번씩 time.perf_counter를 호출하면 둘 사이의 차이를 확인할 수 있다. 거추장스러운 부분 없이, 낮은 오버헤드로 코드 시간을 측정할 수 있는 방법이다.
 
타임잇 모듈은 파이썬 코드를 대상으로 실제 벤치마킹과 비슷한 작업을 수행한다. timeit.timeit 함수는 코드 스니펫을 취해서 여러 번 실행하고(기본값은 100만 패스) 소요된 총 시간을 구한다. 타이트한 루프에서 단일 작업이나 함수 호출의 성능을 알아보는 데 적합하다. 예를 들어 많은 횟수로 반복되는 작업에서 리스트 컴프리헨션(list comprehension)과 일반적인 리스트 구조 중 무엇이 더 빠른지 알아볼 수 있다(보통 리스트 컴프리헨션이 더 빠름).
 
타임의 단점은 스톱워치 기능이 전부라는 것, 타임잇의 단점은 주 용도가 코드의 라인 하나하나 또는 블록을 대상으로 한 마이크로벤치마크라는 것이다. 이 두 모듈은 일정 부분의 코드를 대상으로만 효과적이다. 즉, 수천 라인의 프로그램 코드에서 가장 많은 시간을 소비하는 부분을 찾는 전체 프로그램 분석 용도로는 두 가지 모두 충분하지 않다. 
 

c프로파일(cProfile)

파이썬 표준 라이브러리에는 전체 프로그램 분석 프로파일러인 c프로파일도 있다. c프로파일은 프로그램의 모든 함수 호출을 추적하고 가장 자주 호출된 함수와 각 함수 호출의 평균 소요 시간이 정리된 목록을 생성한다.
 
c프로파일에는 세 가지 큰 장점이 있다. 첫째, 표준 라이브러리에 포함되므로 기본 파이썬 설치에서도 사용할 수 있다. 둘째, 호출 동작에 관한 다양한 통계를 프로파일링한다. 예를 들어 함수 호출의 자체 명령에 소요된 시간을 그 함수에 의해 호출되는 다른 모든 호출에 소요된 시간과 따로 분리한다. 따라서 함수 자체가 느린 것인지, 다른 함수 호출에서 속도가 저하되는 것인지 여부를 판단할 수 있다.
 
세 번째 장점이자 가장 큰 장점은 자유롭게 조절할 수 있다는 점이다. 전체 프로그램의 실행을 샘플링할 수도 있고, 선택한 함수가 실행될 때만 프로파일링을 켤 수도 있다. 후자는 이 함수가 무슨 일을 하고 무엇을 호출하는지 알아볼 때 적합하다. 최대의 효과를 얻으려면 먼저 분석 범위를 어느정도 좁혀야 하지만, 전체 프로파일 추적에 따르는 노이즈를 헤쳐나가는 수고를 덜 수 있다.
 
단, 이 장점에 c프로파일의 첫 번째 단점도 있다. c프로파일은 기본적으로 많은 통계 수치를 생성한다. 그 많은 데이터 중에서 필요한 수치를 찾아내는 작업은 무척 고단할 수 있다. 두 번째 단점은 실행 모델이다. c프로파일은 모든 함수 호출을 붙잡기 때문에 상당한 오버헤드를 유발한다. 따라서 개발 중 프로파일링에는 아무런 문제가 없지만 라이브 데이터를 사용하는 프로덕션의 앱을 프로파일링하는 용도로는 적합하지 않다.
 

파이인스트루먼트(Pyinstrument)

파이인스트루먼트는 프로그램을 추적하고 가장 많은 시간을 소요하는 코드에 대한 보고서를 생성한다는 면에서 c프로파일과 비슷하지만 c프로파일에 비해 두 가지 큰 장점이 있다. 이 두 장점만으로도 파이인스트루먼트를 사용해볼 가치는 충분하다.
 
첫째, 파이인스트루먼트는 모든 함수 호출을 붙잡지 않고 밀리초당 한 번씩 프로그램의 호출 스택을 샘플링한다. 과하지 않으면서 프로그램 런타임의 대부분을 차지하는 요소를 감지하기에는 충분한 민감도다.
 
둘째, 파이인스트루먼트의 보고는 훨씬 더 간결하다. 프로그램에서 가장 많은 시간을 차지하는 함수를 보여주므로 가장 큰 문제를 분석하는 데 초점을 맞출 수 있다. 또한 번잡함 없이 빠르게 결과를 찾을 수 있게 해준다.
 
파이인스트루먼트는 c프로파일과 같은 편의 기능도 상당수 갖추고 있다. 애플리케이션의 한 개체로 이 프로파일러를 사용해서 전체 애플리케이션이 아닌 선택한 함수의 동작을 기록할 수 있다. 출력은 HTML을 포함한 다양한 방법으로 표현이 가능하다. 필요하다면 호출의 전체 타임라인도 볼 수 있다.
 
눈에 띄는 단점은 두 가지다. 첫째, 싸이썬(Cython)으로 만든 프로그램과 같이 C로 컴파일된 확장을 사용하는 일부 프로그램은 명령줄을 통해 파이인스트루먼트로 호출되는 경우 정상적으로 작동하지 않을 수 있다. 프로그램 자체에서 파이인스트루먼트를 사용하는 경우에는 정상적으로 작동한다(예를 들어 main() 함수를 파이인스트루먼트 프로파일러 호출로 래핑함).
 
두 번째 단점은 여러 스레드에서 실행되는 코드와는 잘 맞지 않는다는 것이다. 이 용도로는 다음에 설명할 파이-스파이(Py-spy)가 더 나은 선택이다.
 

파이-스파이(Py-spy)

파이-스파이는 파이인스트루먼트와 마찬가지로 모든 호출을 기록하지 않고 프로그램 호출 스택의 상태를 일정한 간격으로 샘플링한다. 파이인스트루먼트와 다른 점은 코어 구성요소가 러스트로 작성됐으며(파이인스트루먼트는 C 확장을 사용함) 프로파일링 대상 프로그램의 프로세스 밖에서 실행되므로 프로덕션에서 실행되는 코드에도 안전하게 사용할 수 있다는 점이다.
 
이 아키텍처 덕분에 파이-스파이는 다른 프로파일러에서는 할 수 없는 멀티 스레드 또는 서브 프로세스 파이썬 애플리케이션을 손쉽게 프로파일링할 수 있다. 또한 파이-스파이는 C 확장도 프로파일링할 수 있지만 효용성을 가지려면 확장이 심볼로 컴파일되어야 한다. 싸이썬으로 컴파일된 확장의 경우 적절한 트레이스 정보를 얻으려면 생성된 C 파일을 제공해야 한다.

파이-스파이로 앱을 점검하는 방법은 기본적으로 두 가지다. 파이-스파이의 record 명령을 사용해서 앱을 실행하면 실행이 완료된 후 플레임 그래프가 생성된다. 또 다른 방법인 파이-스파이의 top 명령을 사용해서 앱을 실행하면 라이브로 업데이트되면서 파이썬 앱의 내부 작동이 인터랙티브하게, 유닉스의 top 유틸리티와 같은 방식으로 표시된다. 개별 스레드 스택도 명령줄에서 덤프할 수 있다.
 
파이-스파이에는 한 가지 큰 결점이 있다. 전체 프로그램 또는 프로그램의 일부 구성요소를 외부에서 프로파일링하기 위한 용도로 만들어졌다는 점이다. 따라서 특정 함수만 데코레이션 및 샘플링할 수는 없다.
 

예피(Yappi)

예피(Yet Another Python Profiler)는 여기서 소개한 다른 프로파일러의 장점 상당수와 함께 고유한 기능도 몇 가지 갖고 있다. 파이참(PyCharm)은 기본 프로파일러로 예피를 설치하므로 파이참 IDE 사용자는 예피를 바로 사용할 수 있다.
 
예피를 사용하려면 프로파일링 메커니즘을 호출, 시작, 중지하고 보고를 생성하는 명령어로 코드를 데코레이션한다. 소요된 시간 측정을 위해 “벽 시간(wall time)”과 “CPU 시간” 중에서 선택할 수 있다. 벽 시간은 단순한 스톱워치고, CPU 시간은 코드 실행에서 CPU가 실제로 얼만큼의 시간 동안 개입했는지를(I/O를 위한 일시 중지 또는 스레드 일시 중지 제외) 시스템 네이티브 API를 통해 기록한다. CPU 시간은 예를 들어 수치 코드 실행과 같은 특정 작업이 실제로 실행된 시간에 대한 가장 정확한 수치를 제공한다.
 
예피가 스레드에서 통계 수치를 가져오는 방식의 큰 장점 중 하나는 스레드 코드를 데코레이션할 필요가 없다는 것이다. 예피가 제공하는 yappi.get_thread_stats() 함수는 기록되는 모든 스레드 활동에서 통계를 추출하므로 이후 이 통계를 따로 파싱할 수 있다. c프로파일과 비슷하게 통계 수치를 세밀하게 필터링 및 정렬할 수 있다.
 
마지막으로, 예피는 그린릿(greenlet)과 코루틴도 프로파일링한다. 다른 많은 프로파일러에서는 아예 불가능하거나 가능하더라도 하기가 어렵다. 파이썬에서 비동기 메타포의 사용이 증가하고 있음을 감안하면 동시 코드 프로파일링은 강력한 도구다. editor@itworld.co.kr 


2020.12.18

파이썬 코드 프로파일링에 유용한 라이브러리 5가지

Serdar Yegulalp | InfoWorld
모든 프로그래밍 언어에는 개발 속도와 실행 속도, 두 가지 종류의 속도가 있다. 파이썬은 항상 빠른 실행보다는 빠른 개발을 선호했다. 파이썬 코드의 실행 속도는 대부분 필요한 작업에 충분할 만큼 빠르지만 그렇지 않을 때도 종종 있다. 그런 경우가 발생한다면 속도가 저하되는 지점과 이유를 찾아 조치를 취해야 한다.
 
소프트웨어 개발, 그리고 전반적인 엔지니어링에서 유명한 격언으로, “짐작하지 말고 측정을 하라”는 말이 있다. 소프트웨어에서 무엇이 잘못되었는지 가정하기는 쉽지만 가정은 좋은 습관이 아니다. 애플리케이션 속도를 높이기 위한 최선의 일차적인 도구는 항상 실제 프로그램 성능에 대한 통계 수치다.
 
파이썬은 애플리케이션을 프로파일링하고 속도가 느린 부분을 알아내는 데 사용할 수 있는 풍부한 패키지를 제공한다. 표준 라이브러리에 포함된 간단한 한 줄짜리 툴부터 실행 중인 애플리케이션에서 통계 수치를 수집하기 위한 정교한 프레임워크에 이르기까지 종류도 다양하다. 이 기사에서는 그중에서 가장 유용한 5가지를 정리했다. 모두 크로스 플랫폼 툴이며 파이파이(PyPI) 또는 파이썬의 표준 라이브러리에서 바로 사용할 수 있다.
 

타임(Time)과 타임잇(Timeit)

스톱워치만으로 충분한 경우가 있다. 실행하는 데 몇 초 또는 몇 분이 걸리는 두 코드 스니펫 사이의 시간을 프로파일링하는 것이 목적이라면 스톱워치만으로 충분하다.
 
파이썬 표준 라이브러리에는 스톱워치 역할을 하는 두 가지 함수가 있다. 타임 모듈perf_counter 함수는 운영체제의 고분해능 타이머를 호출해서 임의의 타임스탬프를 구한다. 작업 전과 후에 한 번씩 time.perf_counter를 호출하면 둘 사이의 차이를 확인할 수 있다. 거추장스러운 부분 없이, 낮은 오버헤드로 코드 시간을 측정할 수 있는 방법이다.
 
타임잇 모듈은 파이썬 코드를 대상으로 실제 벤치마킹과 비슷한 작업을 수행한다. timeit.timeit 함수는 코드 스니펫을 취해서 여러 번 실행하고(기본값은 100만 패스) 소요된 총 시간을 구한다. 타이트한 루프에서 단일 작업이나 함수 호출의 성능을 알아보는 데 적합하다. 예를 들어 많은 횟수로 반복되는 작업에서 리스트 컴프리헨션(list comprehension)과 일반적인 리스트 구조 중 무엇이 더 빠른지 알아볼 수 있다(보통 리스트 컴프리헨션이 더 빠름).
 
타임의 단점은 스톱워치 기능이 전부라는 것, 타임잇의 단점은 주 용도가 코드의 라인 하나하나 또는 블록을 대상으로 한 마이크로벤치마크라는 것이다. 이 두 모듈은 일정 부분의 코드를 대상으로만 효과적이다. 즉, 수천 라인의 프로그램 코드에서 가장 많은 시간을 소비하는 부분을 찾는 전체 프로그램 분석 용도로는 두 가지 모두 충분하지 않다. 
 

c프로파일(cProfile)

파이썬 표준 라이브러리에는 전체 프로그램 분석 프로파일러인 c프로파일도 있다. c프로파일은 프로그램의 모든 함수 호출을 추적하고 가장 자주 호출된 함수와 각 함수 호출의 평균 소요 시간이 정리된 목록을 생성한다.
 
c프로파일에는 세 가지 큰 장점이 있다. 첫째, 표준 라이브러리에 포함되므로 기본 파이썬 설치에서도 사용할 수 있다. 둘째, 호출 동작에 관한 다양한 통계를 프로파일링한다. 예를 들어 함수 호출의 자체 명령에 소요된 시간을 그 함수에 의해 호출되는 다른 모든 호출에 소요된 시간과 따로 분리한다. 따라서 함수 자체가 느린 것인지, 다른 함수 호출에서 속도가 저하되는 것인지 여부를 판단할 수 있다.
 
세 번째 장점이자 가장 큰 장점은 자유롭게 조절할 수 있다는 점이다. 전체 프로그램의 실행을 샘플링할 수도 있고, 선택한 함수가 실행될 때만 프로파일링을 켤 수도 있다. 후자는 이 함수가 무슨 일을 하고 무엇을 호출하는지 알아볼 때 적합하다. 최대의 효과를 얻으려면 먼저 분석 범위를 어느정도 좁혀야 하지만, 전체 프로파일 추적에 따르는 노이즈를 헤쳐나가는 수고를 덜 수 있다.
 
단, 이 장점에 c프로파일의 첫 번째 단점도 있다. c프로파일은 기본적으로 많은 통계 수치를 생성한다. 그 많은 데이터 중에서 필요한 수치를 찾아내는 작업은 무척 고단할 수 있다. 두 번째 단점은 실행 모델이다. c프로파일은 모든 함수 호출을 붙잡기 때문에 상당한 오버헤드를 유발한다. 따라서 개발 중 프로파일링에는 아무런 문제가 없지만 라이브 데이터를 사용하는 프로덕션의 앱을 프로파일링하는 용도로는 적합하지 않다.
 

파이인스트루먼트(Pyinstrument)

파이인스트루먼트는 프로그램을 추적하고 가장 많은 시간을 소요하는 코드에 대한 보고서를 생성한다는 면에서 c프로파일과 비슷하지만 c프로파일에 비해 두 가지 큰 장점이 있다. 이 두 장점만으로도 파이인스트루먼트를 사용해볼 가치는 충분하다.
 
첫째, 파이인스트루먼트는 모든 함수 호출을 붙잡지 않고 밀리초당 한 번씩 프로그램의 호출 스택을 샘플링한다. 과하지 않으면서 프로그램 런타임의 대부분을 차지하는 요소를 감지하기에는 충분한 민감도다.
 
둘째, 파이인스트루먼트의 보고는 훨씬 더 간결하다. 프로그램에서 가장 많은 시간을 차지하는 함수를 보여주므로 가장 큰 문제를 분석하는 데 초점을 맞출 수 있다. 또한 번잡함 없이 빠르게 결과를 찾을 수 있게 해준다.
 
파이인스트루먼트는 c프로파일과 같은 편의 기능도 상당수 갖추고 있다. 애플리케이션의 한 개체로 이 프로파일러를 사용해서 전체 애플리케이션이 아닌 선택한 함수의 동작을 기록할 수 있다. 출력은 HTML을 포함한 다양한 방법으로 표현이 가능하다. 필요하다면 호출의 전체 타임라인도 볼 수 있다.
 
눈에 띄는 단점은 두 가지다. 첫째, 싸이썬(Cython)으로 만든 프로그램과 같이 C로 컴파일된 확장을 사용하는 일부 프로그램은 명령줄을 통해 파이인스트루먼트로 호출되는 경우 정상적으로 작동하지 않을 수 있다. 프로그램 자체에서 파이인스트루먼트를 사용하는 경우에는 정상적으로 작동한다(예를 들어 main() 함수를 파이인스트루먼트 프로파일러 호출로 래핑함).
 
두 번째 단점은 여러 스레드에서 실행되는 코드와는 잘 맞지 않는다는 것이다. 이 용도로는 다음에 설명할 파이-스파이(Py-spy)가 더 나은 선택이다.
 

파이-스파이(Py-spy)

파이-스파이는 파이인스트루먼트와 마찬가지로 모든 호출을 기록하지 않고 프로그램 호출 스택의 상태를 일정한 간격으로 샘플링한다. 파이인스트루먼트와 다른 점은 코어 구성요소가 러스트로 작성됐으며(파이인스트루먼트는 C 확장을 사용함) 프로파일링 대상 프로그램의 프로세스 밖에서 실행되므로 프로덕션에서 실행되는 코드에도 안전하게 사용할 수 있다는 점이다.
 
이 아키텍처 덕분에 파이-스파이는 다른 프로파일러에서는 할 수 없는 멀티 스레드 또는 서브 프로세스 파이썬 애플리케이션을 손쉽게 프로파일링할 수 있다. 또한 파이-스파이는 C 확장도 프로파일링할 수 있지만 효용성을 가지려면 확장이 심볼로 컴파일되어야 한다. 싸이썬으로 컴파일된 확장의 경우 적절한 트레이스 정보를 얻으려면 생성된 C 파일을 제공해야 한다.

파이-스파이로 앱을 점검하는 방법은 기본적으로 두 가지다. 파이-스파이의 record 명령을 사용해서 앱을 실행하면 실행이 완료된 후 플레임 그래프가 생성된다. 또 다른 방법인 파이-스파이의 top 명령을 사용해서 앱을 실행하면 라이브로 업데이트되면서 파이썬 앱의 내부 작동이 인터랙티브하게, 유닉스의 top 유틸리티와 같은 방식으로 표시된다. 개별 스레드 스택도 명령줄에서 덤프할 수 있다.
 
파이-스파이에는 한 가지 큰 결점이 있다. 전체 프로그램 또는 프로그램의 일부 구성요소를 외부에서 프로파일링하기 위한 용도로 만들어졌다는 점이다. 따라서 특정 함수만 데코레이션 및 샘플링할 수는 없다.
 

예피(Yappi)

예피(Yet Another Python Profiler)는 여기서 소개한 다른 프로파일러의 장점 상당수와 함께 고유한 기능도 몇 가지 갖고 있다. 파이참(PyCharm)은 기본 프로파일러로 예피를 설치하므로 파이참 IDE 사용자는 예피를 바로 사용할 수 있다.
 
예피를 사용하려면 프로파일링 메커니즘을 호출, 시작, 중지하고 보고를 생성하는 명령어로 코드를 데코레이션한다. 소요된 시간 측정을 위해 “벽 시간(wall time)”과 “CPU 시간” 중에서 선택할 수 있다. 벽 시간은 단순한 스톱워치고, CPU 시간은 코드 실행에서 CPU가 실제로 얼만큼의 시간 동안 개입했는지를(I/O를 위한 일시 중지 또는 스레드 일시 중지 제외) 시스템 네이티브 API를 통해 기록한다. CPU 시간은 예를 들어 수치 코드 실행과 같은 특정 작업이 실제로 실행된 시간에 대한 가장 정확한 수치를 제공한다.
 
예피가 스레드에서 통계 수치를 가져오는 방식의 큰 장점 중 하나는 스레드 코드를 데코레이션할 필요가 없다는 것이다. 예피가 제공하는 yappi.get_thread_stats() 함수는 기록되는 모든 스레드 활동에서 통계를 추출하므로 이후 이 통계를 따로 파싱할 수 있다. c프로파일과 비슷하게 통계 수치를 세밀하게 필터링 및 정렬할 수 있다.
 
마지막으로, 예피는 그린릿(greenlet)과 코루틴도 프로파일링한다. 다른 많은 프로파일러에서는 아예 불가능하거나 가능하더라도 하기가 어렵다. 파이썬에서 비동기 메타포의 사용이 증가하고 있음을 감안하면 동시 코드 프로파일링은 강력한 도구다. editor@itworld.co.kr 


X